"Kırmızı çizgileri ihlal etmiyor"
"Yüz kat daha beterinden korkuyoruz"
ABD merkezli yapay zeka şirketi Anthropic'le Beyaz Saray arasındaki gerilim sürerken şirketin CEO'su Dario Amodei dikkat çeken bir röportaj verdi.
Çarşamba Bloomberg'de yayımlanan röportajda 43 yaşındaki Amerikalı'ya, 28 Şubat'ta İran'ın Hürmüzgan eyaletine bağlı Minab kentindeki Şeceretü't-Tayyibe Kız İlkokulu'na düzenlenen ve çoğu çocuk 160'a yakın kişinin öldüğü saldırı soruldu.
ABD merkezli yayın kuruluşundan Emily Chang, Pentagon'un Anthropic'in yapay zekası Claude'u İran'daki hedeflerin belirlenmesinde kullandığının bilindiğini söyledi ve Minab saldırısında bu modelden istifade edilip edilmediği sorusunu yöneltti.
Amodei'nin yanıtı şöyle oldu:
Bu modellerin tam olarak nasıl kullanıldığına dair bilgilere bizim erişimimiz yok. Savaşlarda yapılan hatalar tabii ki gerçekten korkunç. Bu modellerin kullanımını sınırlamak için şirketimizin geleceğini riske atmaya hazırız. Sizin bahsettiğiniz kullanım senaryosu bizim kırmızı çizgilerimizi ihlal etmiyor. Bundan yüz kat daha beter ve kırmızı çizgilerimizi ihlal eden kullanım senaryolarından korkuyoruz.
Yapay zekanın nihai hükmü insanlara bıraktığını ve komutanların savaş durumlarında çok kötü hamleler yapabildiğini sözlerine ekleyen Amodei, "O son kararı Claude değil, bir insan alır" dedi.
Amodei, nihai hükmün insanlara bırakılmasını Claude'a zorunlu tuttuklarını ama diğer yapay zeka modellerinin böyle tasarlanmayabileceğini vurgulayarak kendilerinin de bu ihtimale karşı mücadele verdiğini söyledi.
ABD ve İsrail'in İran savaşını başlattığı 28 Şubat'ta ilkokulun Tomahawk füzesiyle vurulduğu saldırıyı henüz kamuoyu önünde üstlenmeyen Pentagon, konuyla ilgili soruşturmanın sürdüğünü bildiriyor.
Anthropic'in güvenlik endişeleri ve Claude'u "tüm yasal askeri amaçlar" için kullanıma açmayı reddetmesi, Pentagon'ın tepkisine yol açmıştı.
24 Şubat'ta Anthropic'e ültimatom veren ABD Savunma Bakanı Pete Hegseth, Claude'u istedikleri gibi kullanmalarına 27 Şubat'a kadar izin çıkmadığı takdirde şirketin hükümetle yaptığı sözleşmeleri kaybedebileceğini söylemişti.
Birkaç gün sonra ABD Başkanı Donald Trump da Anthropic teknolojilerinin kullanımının derhal durdurulması için tüm federal kurumlara talimat vermişti.
Ardından Pentagon, teknolojisinin ABD vatandaşlarının gözetlenmesinde ve tam otonom silahlarda kullanılmasını kabul edemeyeceğini açıklayan firmayı "tedarik güvenliği açısından riskli" ilan etmişti.
Anthropic, 9 Mart'ta ABD yönetimine karşı iki dava açarak, Pentagon yetkililerinin yapay zeka güvenliği konusundaki tutumundan dolayı şirkete misilleme yapmasının yasalara uymadığını öne sürmüştü.
Son olarak 12 Haziran'da Anthropic'in internet sitesinden yapılan açıklamada, ABD federal hükümetinin talimatı kapsamında, şirket çalışanları da dahil olmak üzere ülke içi ve dışındaki tüm yabancı uyruklu kişilerin Fable 5 ve Mythos 5'a erişiminin durdurulmasını talep ettiği belirtildi.
Washington'ın ihracat kontrolü talimatı doğrultusunda, bu yapay zeka modellerine erişimin tüm müşteriler için derhal askıya alındığı bildirildi.
ABD'li yetkililerin karara gerekçe oluşturan ulusal güvenlik tehdidine ilişkin herhangi bir ayrıntı vermediği aktarıldı.
Washington'ın, Fable 5'ın güvenlik önlemlerini aşmaya imkan tanıyan bir yöntemi tespit ettiğine inanıldığı kaydedildi.
Independent Türkçe, Bloomberg, RT, AA
