AB, Yapay Zekâ Güvenliği Masasında Nerede Oturmalı?

 AB'de teknik kaynakların nasıl organize edileceği hâlâ belirsiz.

Yapay zekâ modelleri giderek daha güçlü hâle gelirken Avrupa da bu alandaki kapasitesini artırmaya çalışıyor. Daha fazla ülke özel yapay zekâ güvenliği enstitüleri kurmayı planlıyor. 

Ancak daha büyük bir soru hâlâ gündemde: Bu teknolojinin en ileri düzey gelişmelerini denetleme konusunda Avrupa Birliği'nin rolü ne olmalı?

Avrupa Komisyonu'nun salı günü ilk siber güvenlik ve yapay zekâ stratejisini açıklaması bekleniyor. Stratejinin, Brüksel ile üye ülkelerin bu konuda nasıl birlikte çalışabileceğine dair bir çerçeve ortaya koyması öngörülüyor.

Yapay zekâ güvenliği neden gündemde?

ChatGPT'nin 2022'de dünya sahnesine çıkmasından çok önce, yapay zekâ uzmanları kontrolsüz uygulamaların doğurabileceği tehlikeler konusunda uyarılarda bulunuyordu.

 Bu riskler arasında yapay zekânın büyük ölçekli siber saldırıları mümkün kılması ya da insanların en güçlü modeller üzerindeki kontrolünü kaybetmesi yer alıyor.

Kasım 2023'te Birleşik Krallık, bu riskleri değerlendirmek amacıyla dünyanın ilk Yapay Zekâ Güvenliği Enstitüsü'nü (AISI) kurdu. Daha sonra adı değiştirilen kurum, eski Başbakan Rishi Sunak tarafından "yapay zekâ güvenliği konusunda küresel merkez" olarak tanıtıldı.

• İngiltere'nin ardından başka ülkeler de benzer adımlar attı:
• Fransa geçen yıl kendi yapay zekâ enstitüsünü kurdu.
• Almanya geçen ay benzer bir kurum oluşturma planını açıkladı.
• Estonya, "AISI benzeri" bir yetkinlik merkezi üzerinde çalışıyor.
• Hollanda ise kendi enstitüsünü kurma seçeneklerini değerlendiriyor.

Birleşik Krallık'ın AISI modeli özellikle dikkat çekiyor. Kurum, birçok büyük Amerikan yapay zekâ laboratuvarıyla anlaşmalar yaparak modellerin geniş çapta yayımlanmadan önce test edilmesini sağlıyor.

AB'nin mevcut yapısı neden farklı?

AB tamamen sıfırdan başlamış değil. Yapay Zekâ Yasası (AI Act) kapsamında kurulan AB Yapay Zekâ Ofisi, özel bir güvenlik birimine sahip ve uluslararası yapay zekâ güvenliği enstitüleri ağının bir parçası.

Ancak bu yapı diğerlerinden önemli bir noktada ayrılıyor: Yapay Zekâ Ofisi yalnızca modelleri değerlendirmiyor, aynı zamanda onları düzenliyor ve denetliyor.

Bu durum bazı uzmanlara göre sorun yaratabilir. Çünkü ofisin para cezası uygulama yetkisi bulunuyor ve bu da geliştiricilerin en yeni modellerini önceden AB'nin "yapay zekâ polisi" ile paylaşma konusunda daha isteksiz davranmasına yol açabilir.

"Öncü yapay zekâ laboratuvarlarının modellerini piyasaya sürmeden önce Birleşik Krallık AISI ile paylaşmasının nedeni, bu kurumun modelleri değerlendirmesi ama polislik yapmamasıdır."

— Alex Petropoulos, Arq Foundation

Mythos olayı neyi değiştirdi?

Son aylarda Amerikan şirketi Anthropic tarafından geliştirilen Mythos modeli, yapay zekânın siber güvenlik açısından taşıdığı riskleri yeniden gündeme taşıdı.

Şirketin önce sınırlı erişim verdiği, ardından geri çektiği ve daha sonra yeniden kullanıma açtığı modelin "eşi görülmemiş siber yeteneklere" sahip olduğu iddia edildi.

AB'nin siber güvenlik ajansı ENISA, bu tür tehditlerin test edilmesi görevini üstlendi; ancak şu an yalnızca OpenAI'ın rakip modeli GPT‑5.5‑Cyber üzerinde çalışabiliyor.

Haziran sonunda Avrupa Komisyonu, ENISA'nın Komisyon, diğer AB kurumları ve üye devletlerle koordinasyon içinde bu tür araçların test edilmesine yönelik bir strateji geliştirdiğini açıkladı.

Çok sayıda enstitü gereksiz tekrar mı yaratıyor?

Avrupa genelinde birçok ülkenin kendi yapay zekâ güvenliği enstitüsünü kurması, aynı işin tekrarlandığı eleştirilerine yol açıyor.

Ancak uzmanların çoğu bu görüşe katılmıyor.

Future of Life Institute'tan Risto Uuk, yapay zekâ kaynaklı birçok tehdidin doğrudan ulusal güvenlik alanına girdiğini ve bu konuda AB'nin sınırlı yetkiye sahip olduğunu belirtiyor.

Ayrıca ciddi bir finansman sorunu da var. 

Dünyanın diğer bölgelerinde yapay zekâ uzmanlarına ödenen maaşlar hızla yükselirken, bazı ülkeler bu uzmanları ulusal güvenlik bütçeleri üzerinden işe almanın AB kurumlarından daha kolay olacağını düşünüyor.

Uzmanlaşma modeli öne çıkıyor

The Future Society'den Toni Lorente, Avrupa'da birden fazla kurum bulunmasının aslında avantaj sağlayabileceğini savunuyor.

Olası uzmanlaşma örnekleri şöyle:

Böylece Avrupa genelinde yapay zekâdan kaynaklanan risklerin daha geniş bir yelpazesi kapsanmış olur.

Peki AB'nin rolü ne olmalı?

Bu senaryoda Avrupa Birliği'nin temel görevi, ulusal girişimleri koordine etmek olacaktır.

Komisyonun siber güvenlikten sorumlu üst düzey yetkilisi Despina Spanou'nun geçen ay ifade ettiği gibi, AB'nin yapması gereken şey "Birlik olarak en iyi yapabildiğimiz işi yapmak" olabilir.

Kısacası Avrupa'daki tartışma artık yapay zekâ güvenliği kurumlarının kurulup kurulmaması değil; bu kurumların nasıl iş bölümü yapacağı ve AB'nin bu ağın merkezinde mi yoksa koordinatörü mü olacağı sorusu etrafında şekilleniyor.

Euractiv