Beyaz Saray'a yapay zekâ raporu kriz çıkardı

Kontrolden çıkmış yapay zekâ ajanlarıyla ilgili artan raporlar nedeniyle kamuoyunda endişeler büyürken, yeni yapay zekâ ürünlerinin güvenliği de tehdit altında gözüküyor

Ticaret Bakanlığı'na bağlı bağımsız bir birim olan Süper Zekâ İçin İnovasyon ve Standartları Geliştirme Merkezi (CAISSI) yetkililerinden yakın zamanda Beyaz Saray'ın bir ofisine gayri resmi olarak rapor vermeleri istendi. 

Yeni düzenleme, yürütme organının siber güvenlikten biyolojik silahlara kadar her şeyi etkileyebilecek kararları siyasallaştırabileceğinden ve merkezin bulgularının, büyük ölçüde kendi kendini denetlemekle görevlendirilmiş teknoloji endüstrisine saygı gösterilerek değiştirilebileceğinden veya dönüştürülebileceğinden endişe duyan bazı eleştirmenleri kaygılandırıyor. 

Amerikan Bilim İnsanları Federasyonu'nda yapay zeka ve gelişmekte olan teknolojiler program yöneticisi olan Caroline Siegel Singh, “Bunlar, hayatımızı önemli ölçüde iyileştirebilecek veya alternatifini sağlayabilecek gerçekten güçlü kurumlar. Umut, Amerikan halkına en iyi şekilde hizmet edecek şekilde politika uygulamak için tarafsız veya iki partili teknokrat uzmanları görevlendirebilmektir” dedi.

Konuya dışarıdan kayıtsız bir yaklaşım sergileyen Başkan Donald Trump'ın yörüngesine yapay zeka güvenliği yetkililerini daha yakınlaştırmanın, bu birime daha fazla önem kazandırabileceğini ve belki de daha fazla fon sağlayabileceğini savunuyor.

Daha önce ayrılıklar yaşayan ve yakın zamana kadar ABD Yapay Zeka Standartları ve İnovasyon Merkezi olarak adlandırılan merkeze yılda 10 milyon dolar tahsis ediliyor. Bu, öncü teknolojileriyle çok daha az tanınan Birleşik Krallık'taki muadilinin yıllık bütçesinin yaklaşık sekizde biri. 

Nisan ayında, bölümün direktörü işe alındı ​​ve birkaç gün içinde görevden alındı. Yerine geçen kişi birkaç ay sonra istifa etti ve o zamandan beri merkez kalıcı bir liderden yoksun kaldı, ancak bağlı olduğu kurumun başkanı aynı zamanda onun vekaleten müdürlüğünü de yapıyor.

Ağustos ayında Kongre, merkezin belirli yapay zeka sistemlerinin ne kadar güvenli çalıştığına dair raporlarını neden aniden kamuoyuna açıklamayı bıraktığını sormaya başladı. 

San Francisco devi OpenAI de o zamana kadar devreye girerek, politika yapıcılardan bu bölüme daha fazla para ve destek vermelerini istemişti.

Beyaz Saray, CAISSI ile ilgili belirli sorulara yanıt vermedi. Ancak bir açıklamada, Trump'ın yeni Süper Zeka Gücü'nü (başkanın yapay zeka için tercih ettiği terim) resmen kurduğunu söyledi. 

Beyaz Saray, Trump'ın Bilim ve Teknoloji Danışmanları Konseyi'nden riskler hakkında bir rapor hazırlattığını ve "Amerikan halkının yararına süper zeka konusunda ABD liderliğinin devamını sağlayacağını" belirtti.

Kendini savunan bir sektör

Federal hükümet, kamu için neyin güvenli olduğuna karar vermede genellikle aktif bir rol oynar. Örneğin, otomobil endüstrisini ele alalım. Ulusal Karayolu Trafik Güvenliği İdaresi, çarpışma test mankenlerini arabalara yerleştirip duvarlara çarptırarak insan vücutlarının araç çarpışmalarından nasıl etkilendiğini ölçüyor.

Hükümet araştırmacıları daha sonra çarpışma testi verilerini analiz ediyor, kamuoyuyla paylaşıyor ve araç güvenliğini iyileştirmek için ulusal standartlar belirliyor; tüm bunların amacı hayat kurtarmak ve kazalardan kaynaklanan ekonomik maliyetleri düşürmek.

Yapay zeka modelleriyle güvenlik testleri çok farklı bir hal alıyor.

Joe Biden döneminde, önde gelen yapay zeka şirketleri, Ticaret Bakanlığı'nın yeni oluşturulan birimiyle ayrıntıları paylaşarak ve yönetimin testler ve şeffaflık raporları için belirlediği yönergeleri izleyerek modellerinin "güvenli, emniyetli ve şeffaf bir şekilde geliştirilmesini" gönüllü olarak kabul ettiler.

Eylül ayında, yapay zeka sistemlerinin üreticilerinin kontrolünden kaçtığına dair endişe verici raporların ardından Trump, gönüllü bir güvenlik anlaşmasının parçası olarak önde gelen yapay zeka şirketlerinden "muazzam bir öz denetim" yapmalarını istedi, ancak yönetimi yapay zeka şirketlerinin uygulamalarını nasıl izleyeceğini açıklamadı.

Teknoloji o kadar hızlı ilerliyor ki, birçok model artık insan müdahalesi olmadan çalışan ve gerçek dünya ortamlarında sayısız adımı planlayabilen yapay zeka ajanları olarak konuşlandırılıyor; örneğin, yakın zamanda Philadelphia polisine çözülmemiş bir cinayet vakası hakkında yanlış bir ihbarı algılayan bir yapay zeka ajanı vakası gibi. 

Yapay zeka yetenekleri arttıkça, hükümetin bu sistemleri bağımsız olarak denetleme kapasitesi aynı hızda gelişmedi.

Kaliforniya Üniversitesi, Berkeley Bilgi Okulu'nda yeni göreve başlayacak olan yardımcı doçent Sayash Kapoor, yapay zeka ajanlarının gerçek dünyada ne kadar güvenli davrandığını test etmek için, yapay zeka ajanlarının uçuş rezervasyonu yapması gibi basit durumlarda bile, henüz standart bir süreç bulunmadığını söyledi.

Kapoor, "Önceki yöntemlerimiz sadece nihai cevaba, son kontrole, uçuşun doğru bir şekilde rezerve edilip edilmediğine bakardı. Ve bu durumda, görevin doğru bir şekilde çözüldüğü gibi görünebilir," dedi. "Ancak bir ajanın attığı tüm adımları incelemediğiniz sürece, ajanın büyük bir hata yaptığını anlayamazsınız."

Trump, yapay zekâda üstünlüğe öncelik verdi.

Trump ikinci dönemine başladığında, başlangıçta girişim sermayedarları David Sacks ve Sriram Krishnan'ı sırasıyla yapay zekâdan sorumlu yönetici ve kıdemli yapay zekâ politika danışmanı olarak görevlendirdi. Uzmanlıkları teknoloji yatırımlarını yönetmekteydi, yapay zekâ modellerinin teknik değerlendirmesinde değil.

Her ikisi de bu yılın başlarında görevlerinden ayrıldı, ancak Sacks şimdi Trump'ın teknoloji danışma kurulunda görev yapıyor. Ve nispeten tanınmayan bir Anthropic mühendisinin yapay zekâ geliştirmenin tehlikeleri konusunda uyarıda bulunarak istifa etmesinin ardından Trump bir dizi politika değişikliği yaptı.

Trump, Ulusal İstihbarat Direktörü Jay Clayton'ı, başkanın ABD'nin yapay zekâ geliştirmede üstünlüğünü koruyacağını söylediği yeni Süper İstihbarat Gücü'nün başına getirdi. 

Brennan Adalet Merkezi'nde kıdemli danışman olan Amos Toh, Clayton'ın bu güce atanmasının, Pentagon'un baş teknoloji sorumlusu Emil Michael ile birlikte, yönetimin model güvenliğiyle ilgili kararları, yürütme yetkisi ve gizlilik gerektiren bir ulusal güvenlik meselesi olarak çerçevelemeye çalıştığını ve yapay zekânın tüketici koruması, gizlilik ve sivil haklara yönelik risklerini gölgede bıraktığını gösterdiğini söyledi.

Silikon Vadisi şirketleri bu yıl modellerinin sorunlu siber saldırılardaki rolünü açıklarken, CAISSI yapay zeka güvenliği testleri söz konusu olduğunda sessizliğini korudu.

Anthropic CEO'su Dario Amodei ve OpenAI CEO'su Sam Altman da şirketlerinin güvenlik uygulamalarını denetlemek için bağımsız değerlendirme firmalarının çalışmalarını teşvik ediyor, ancak yapay zeka devleri değerlendirmeleriyle erişimlerini ve muafiyetlerini sınırlayabiliyor.

Sivil haklar ve teknoloji alanında faaliyet gösteren kar amacı gütmeyen Upturn kuruluşunun kıdemli proje direktörü Logan Koepke, “En büyük yapay zeka şirketlerinin kendi iç değerlendirme sistemlerini kurmaları ve/veya dış değerlendiriciler tutmaları teşvik ediliyorsa, hükümet değerlendiricilerinin görevi belirsiz kalıyor” dedi. 

“Bu senaryoda hükümet testlerinin gerçekte ne gibi bir rolü var?”

Toh, laboratuvarların kendi modellerini denetlemesine izin vermenin ve yapay zeka güvenliği testlerinde hükümetin rolünün netleştirilmemesinin, gerçek dünyada zararlara yol açabilecek yapay zeka sistemleri üzerindeki bağımsız denetimleri zayıflattığını söyledi.

“Sonuç olarak, tüm bu kararlar kamuoyu açısından son derece önemli sonuçlar doğuruyor ve kamuoyunun gözü önünde açıklanmalı ve gerekçelendirilmelidir,” dedi. “Ve bu yapılmıyor.”

AP News