OpenAI’de güvenlik alanında çalışan isim istifa etti

OpenAI’de yakın zamanda görevinden ayrılan eski bir güvenlik çalışanı, şirketin yapay zekâ güvenliğine yaklaşımını eleştirerek hızlı geliştirmeye odaklanan, yüksek tempolu kurum kültürünün başarısızlık riskini artırdığını savundu.

David Robinson, cumartesi günü The Atlantic dergisinde yayımlanan “OpenAI’den Ayrıldım Çünkü Kurum Kültürü Bozulmuş Durumda” başlıklı yazısında, OpenAI dâhil yapay zekâ şirketlerinin “yeterince dikkatli davranmadığını” belirtti. 

Robinson, şirketlerin daha yetenekli sistemler geliştirmeden önce güvenlik uzmanlığına ve araştırmalara çok daha fazla önem vermesi gerektiğini ifade etti. Robinson, gelişmiş yapay zekâ sistemlerinin nükleer enerji ve havacılık gibi sektörlerde uygulanan önlemlere daha yakın güvenlik tedbirleri gerektirdiğini savunarak, “Deneme yanılma dönemi sona erdi” diye yazdı.

- Robinson, OpenAI’nin ağırlıklı olarak “yinelemeli dağıtım” (iterative deployment) adını verdiği yaklaşıma dayandığını belirtti. Bu yaklaşım, sistemlerin kullanıma sunulmasını ve sorunlar ortaya çıktıkça güvenlik önlemlerinin güçlendirilmesini içeriyor.

- Robinson’ın açıklamaları, şirketlerin giderek daha güçlü sistemler geliştirmek için fazla hızlı hareket edip etmediğine ilişkin yapay zekâ sektöründeki tartışmalara yeni bir boyut ekliyor. OpenAI ve rakibi Anthropic, güvenlik kontrollerinin başarısız olduğu veya deneysel sistemlerin beklenmedik davranışlar sergilediği olayların ardından incelemelerle karşı karşıya kaldı.

- OpenAI’de üç buçuk yıl çalıştığını belirten Robinson, şirketin hazırlık çerçevesinin (preparedness framework) taslağının oluşturulmasına katkıda bulundu ve sınır model olarak adlandırılan en gelişmiş yapay zekâ modellerinin 12 farklı sürümünün piyasaya sunulmasına ilişkin güvenlik raporlarını denetledi. Robinson, “Şirket bir lansmandan diğerine hızla koşarken, gerekli olduğuna inandığım özen düzeyine ulaşamıyor” diye yazdı.

- OpenAI sözcüsü yaptığı açıklamada, “Modellerimizin güvenli biçimde yönetip kontrol altında tutabileceğimiz kapasitenin ötesine geçmemesini sağlıyoruz. Yavaşlamamız gerektiğinde eğitimi duraklatıyor veya modelleri kullanıma sunmayı erteliyoruz” dedi.

- Robinson ayrıca, yapay zekânın yeteneklerinin araştırmacıların hizalama (alignment) konusundaki anlayışından daha hızlı ilerlediği uyarısında bulundu. Hizalama, yapay zekâ sistemlerinin insan hedefleri ve değerleri doğrultusunda hareket etmesini sağlamaya odaklanan bir araştırma alanı olarak tanımlanıyor.

Reuters