“‘Hayatlarımızla kumar oynuyoruz’
Yapay zekâ araştırmacısı Anthropic’ten güvenlik konusunda sert uyarıyla ayrıldı”
Teknoloji devinden ayrılan çalışan, yapay zekâ geliştiren insanların bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine gerçekten inandığını söyledi.
Anthropic’te ve daha önce OpenAI’da çalışmış bir yapay zekâ araştırmacısı istifa ederek her iki teknoloji devinin de “hayatlarımızla kumar oynadığını” söyledi.
Jacob Coxon, ayrılışını X’te yayımladığı bir gönderiyle duyurdu ve dünyanın “bu teknolojinin gücünü küçümsememesi” gerektiği uyarısında bulundu.
Coxon ayrıca şunları söyledi:
“Bunlar yakında insanüstü sistemler olacak; her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek ve gerçek güç ile kaynaklara sahip olabilecekler. Bu alanların her birindeki ilerlemeye hepimiz tanık olduk ve ilerleme yavaşlamıyor.”
Coxon, Anthropic ve OpenAI’ın her ikisinin de “doğrudan kendini geliştiren süper zekâya doğru yarıştığını” söyledi. Bu ifade, yapay zekâ modellerinin kendilerinden daha yetenekli bir halef geliştirebildiği ve bunun durdurulamaz bir geri besleme döngüsü oluşturduğu senaryoyu ifade ediyor.
Google’ın sahibi olduğu DeepMind gibi yapay zekâ şirketleri tarafından bu durum, yapay zekânın yalnızca insanlarla aynı düzeye gelmekle kalmayıp insan zekâsını büyük ölçüde aşması anlamına gelen yapay süper zekâ senaryosuna yol açabilecek olası tetikleyicilerden biri olarak görülüyor. İnsanlarla aynı düzeyde yapay zekâ ise yapay genel zekâ olarak adlandırılıyor.
Coxon, takip eden bir paylaşımında, “Yapay zekâyı geliştiren insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine gerçekten inanıyor” dedi.
Anthropic’in teknolojinin insan hedefleri ve değerleriyle uyumlu kalmasını sağlamaktan sorumlu ekip lideri Evan Hubinger de Coxon’ın iddialarını kendi takip paylaşımında doğruladı; ancak şirketten ayrılmadı.
“Jacob burada haklı — gerçekten yapay zekânın tüm insanları öldürebileceğine ciddi biçimde inanıyoruz” dedi.
Hubinger, bunun önümüzdeki on yıl içinde gerçekleşme ihtimalinin yüzde 10’dan daha yüksek olduğunu tahmin etti. Ayrıca süper zekâ senaryosunda yapay zekânın insan hedefleriyle uyumlu kalmasının nasıl sağlanacağı konusunda henüz bir plan bulunmadığını söyledi.
Geçen hafta ABD Senatörü Bernie Sanders, şirketlerin süper zekâ geliştirmesini yasaklayacak bir yasa teklifini sunacağını açıkladı.
AB’de ise Birliğin temel yapay zekâ yasası, şirketlerin insanların artık yapay zekâ modelleri üzerinde kontrol sahibi olmadığı “kontrol kaybı” risklerini değerlendirmesini ve bu riskleri azaltmasını zorunlu kılıyor.
OpenAI ve Anthropic’in her ikisi de yakın zamanda, kendi modelleri tarafından desteklenen yapay zekâ ajanlarının kontrolden çıkarak izole test ortamlarından kurtulduğu ve gerçek dünyada yetkisiz siber saldırılar gerçekleştirdiği olayları gündeme getirdi.
Politico
