Beyaz Saray, gelişmiş yapay zekâ araçlarının mümkün kılabileceği dijital saldırılara karşı nasıl önlem alınabileceğine dair teknoloji şirketlerine bir dizi soru yöneltti.
Görüşmelere hâkim dört kaynağa göre, bu hafta teknoloji ve siber güvenlik şirketlerine gönderilen sorular, özellikle yapay zekâ kaynaklı tehditlere karşı savunmanın nasıl güçlendirileceğine odaklanıyor.
Sorular, Beyaz Saray bünyesindeki Office of the National Cyber Director tarafından hazırlandı.
Amaç, teknoloji ve siber güvenlik sektörlerinin farklı alanlarının, yapay zekâyı kullanarak savunma kapasitesini artırmak için yönetimle nasıl iş birliği yapabileceğini belirlemek.
Şirketlerden, bu sorulara Cuma gününe kadar yanıt vermeleri istendi.
Gündeme gelen tehditler arasında, Anthropic tarafından geliştirilen gelişmiş yapay zekâ modeli “Mythos” gibi sistemlerin oluşturabileceği riskler de yer alıyor.
Bu tür ileri düzey yapay zekâ araçlarının, gelecekte daha sofistike ve ölçeklenebilir siber saldırıların önünü açabileceği değerlendiriliyor.
Bu girişim, yapay zekânın yalnızca ekonomik ve teknolojik değil, aynı zamanda güvenlik boyutunda da stratejik bir mesele haline geldiğini ortaya koyuyor.
Bu raporda yer alan diğer kişiler gibi, devam eden son derece gizli görüşmelerin ayrıntılarını paylaşmak için isminin gizli kalması şartıyla konuşan bir kaynak, Salı öğleden sonra Beyaz Saray siber güvenlik yetkilileri ile yaklaşık 30 sektör temsilcisi arasında yapılan bir toplantıda bazı soruların ele alındığını söyledi.
Bu şirketlerden ek, ayrıntılı bilgi talebi, Washington'da son derece gelişmiş yapay zeka araçlarının ulusal güvenlik ve dijital altyapıya yönelik oluşturabileceği tehdide yönelik artan ilgiyi yansıtıyor.
Salı günü yapılan toplantı, kısmen Anthropic'in en yeni yapay zeka modeli Claude Mythos ve bu modelin gizli yazılım kusurlarını ortaya çıkarma ve belirli görevlerde dünyanın en iyi hacker'larını geride bırakma yeteneği hakkındaki endişelerden kaynaklanıyordu.
Şirket, şimdilik, "Project Glasswing" olarak adlandırdığı proje aracılığıyla erişimi küçük bir güvenlik araştırmacıları ve teknoloji şirketleri grubuyla sınırlandırdı.
Anthropic CEO'su Dario Amodei, Hazine Bakanı Scott Bessent, Genelkurmay Başkanı Susie Wiles ve Ulusal Siber Direktör Sean Cairncross da dahil olmak üzere yönetim yetkilileriyle Mythos'u görüşmek üzere yakın zamanda Beyaz Saray'ı ziyaret etti.
Beyaz Saray'ın bazı teknoloji ve siber firmalarına gönderdiği bir soru listesi, hangi yaygın olarak kullanılan kodlama projelerine öncelik verilmesi gerektiği ve kamu ve özel sektörün Project Glasswing gibi girişimlerde nasıl birlikte çalışabileceği gibi daha temel sorular da dahil olmak üzere bir dizi teknik ve politika değerlendirmesini kapsıyor.
Bir soru basitçe şunu soruyor: "Hükümetin en etkili rolü nedir?"
Dört kişi, bazı sektör temsilcilerinin aldıkları sorular karşısında şaşkına döndüğünü ve bu soruların birçoğunun belirsiz olarak görüldüğünü söyledi.
Bu kişilerden ikisi, diğer soruların, bu temsilcilerin bazılarının açık bir gerekçe olmadan hükümete açıklamaktan rahatsızlık duyduğu iç güvenlik uygulamalarına ilişkin olduğunu belirtti.
Sorular arasında şu ana kadar hangi sistemlerde yapay zekayı test ettikleri ve "tarama ve iyileştirme önceliklerinin" neler olduğu yer alıyor.
Beyaz Saray ayrıca yapay zeka konusunda yürütme kararı almayı da değerlendiriyor; bu konu, söz konusu kişilerden ikisinin Salı günkü toplantıda ele alındığını belirtti. Olası yürütme kararı hakkında ilk haberi Axios yayınladı.
Salı günkü toplantıda bulunmayan, ancak görüşmelere aşina olan bir ABD yetkilisi, taslak yürütme kararının, yetkililer düzeyinde kurumlar arası bir incelemeden geçtiğini, ancak plana karşı bazı dirençlerin devam ettiğini söyledi.
ONCD ve Beyaz Saray sözcülerinden yorum taleplerine yanıt gelmedi.
Beyaz Saray, şirketin yapay zekanın hükümet tarafından kullanımına etik sınırlar koyma çabaları nedeniyle aylardır süren yasal mücadeleyi yatıştırmak için adımlar atıyor; bu mücadele, Başkan Donald Trump'ın Şubat ayında tüm federal kurumların yapay zeka şirketinin yazılımını kullanmasını yasaklamasına yol açmıştı.
O zamandan beri, Mythos'un siber yeteneklerine dair artan farkındalık ve yetkisiz kullanıcıların teknolojiyi kontrol edebileceği endişeleri, kurumların araca erişim için can atmasına neden oldu.
OpenAI dahil olmak üzere rakipler de yakın zamanda kendi gelişmiş siber güvenlik odaklı yapay zeka modellerini test etmeye başladı ve bu da hükümet üzerinde bir çözüm bulma konusunda ek baskı oluşturdu.
Elde edilen soru listesine göre, ONCD, bu gelişmiş yapay zeka araçlarının ortaya çıkaracağı hata yığınına nasıl öncelik verileceği konusunda rehberlik arıyor.
Bu, saldırganları uyarmadan kritik altyapı operatörlerine yazılım düzeltmelerinin nasıl dağıtılacağı ve bu bilgilerin diğer şirketler ve hükümetle en iyi nasıl paylaşılacağı konularını içeriyor.
Medya, daha önce Anthropic ve OpenAI'nin toplantıda temsilcileri bulunan şirketler arasında olduğunu bildirmişti. İki kaynağa göre, toplantıda bulunanlardan gizlilik sözleşmeleri imzalamaları istendi.
Lobiciler ve politika yetkilileri yakın zamanda Mythos'un Beyaz Saray içinde Anthropic ile bir uzlaşma çağrısında bulunan bir fraksiyona öncülük ettiğini söyledi.
Mart ayında Savunma Bakanlığı şirketi resmen tedarik zinciri riski olarak belirledi; bu, orduyla sözleşme yapan şirketleri sonunda Anthropic ile bağlarını koparmaya zorlayabilir.
Şirket, bu etiketi sorgulamak için Washington D.C. ve Kaliforniya federal mahkemelerinde yönetime dava açtı.
ABD'deki birçok federal kurumun yanı sıra müttefik ülkelerdeki yetkililer, Anthropic'ten Mythos'un siber saldırı yetenekleri hakkında bilgilendirme talep etti.
İşler düzelmeye başlıyor olabilir. Trump geçen hafta CNBC'deki bir konuşmasında Anthropic yöneticilerinin "kendilerini toparladığını" söyledi.
Trump, şöyle devam etti: "Çok zekiler... Yüksek zekâlı insanları severim ve kesinlikle yüksek zekâya sahipler."
Politico
