Kıyamet tellallarına inanmayın

Teknoloji dünyasından isimlere göre, Silikon Vadisi ve Birleşmiş Milletler’den yayılan varoluşsal korku söylemi, özünde bir siber güvenlik sorununu maskeliyor.

Yapay zekâ modellerinin insanlığı yok edebileceğine ilişkin korkuların ortasında, önde gelen Avrupalı teknoloji liderleri ve siber güvenlik uzmanları giderek daha yüksek sesle aynı çağrıyı yapıyor: Abartıyı bir kenara bırakın ve dijital dünyayı güvende tutmak için zor ama gerekli çalışmalara odaklanın.

Bu sade çağrı, Avrupa teknoloji sektöründe yapay zekânın insanlığın sonunu getirebileceğine ilişkin ABD kaynaklı paniğe karşı giderek sertleşen tepkinin merkezinde yer alıyor. Hem şirket yöneticileri hem de siber güvenlik uzmanları, tüm bu “Chicken Little” tarzı uyarıların, yeni yapay zekâ gerçekliğine karşı savunmaları güçlendirmek için yürütülen asıl çalışmanın önüne geçtiğini söylüyor.

En gelişmiş yapay zekâ modellerini geliştiren ABD şirketleri, yapay zekânın insan ırkının yok olmasına yol açabileceği korkusunun büyük ölçüde yayılmasından sorumlu. Bu korkular, bu yaz OpenAI’nin otonom ajanlarının yapay zekâ platformu Hugging Face’e sızması gibi olayların ardından zirveye ulaştı. 

Bu gelişme, eski Anthropic çalışanı Jacob Coxon’ın bu ayın başlarında yapay zekânın kısa süre içinde “her şeyi hackleyebileceği” ve “hepimizi öldürebileceği” yönündeki uyarısına da katkıda bulundu.

Balderton Capital ortağı ve Birleşik Krallık hükümetinin egemen yapay zekâ fonunun başkanı James Wise, mevcut anlatıya ilişkin olarak, “Ne yazık ki konu ‘Terminatör geliyor’ noktasına kadar yükseldi” dedi. Wise, “Terminatörün geldiğini hiç düşünmüyorum” diye ekledi.

Bu korkular, dünya liderlerinin gündeminin de üst sıralarında yer alıyor. ABD Başkanı Donald Trump ile Çin lideri Şi Cinping, Birleşmiş Milletler Genel Kurulu’nda ve özel bir G7 toplantısında yapay zekâ güvenliğinin ele alınmasının ardından perşembe günü bir zirve gerçekleştirecek.

22 ülkenin liderleri pazartesi günü, yapay zekânın insan yönetimi, denetimi ve kontrolü altında kalması gerektiğini belirten ve küresel bir denetim mekanizması oluşturulmasını öneren bir deklarasyonu kabul etti.

Ancak bilgisayar sistemlerini savunmakla görevli kişiler açısından, gelişmiş yapay zekâ modellerine ilişkin ürkütücü uyarıların ve bunlara yanıt vermek için yürütülen siyasi telaşın, yanlış soruna yanlış çözüm uygulanması riskini taşıdığı belirtiliyor.

Birleşik Krallık merkezli yapay zekâ şirketi Synthesia’nın politika sorumlusu Alexandru Voica, “Teorik risklere ilişkin korkulara veya Silikon Vadisi’ndeki yapay zekâ kıyametçileri balonundan çıkan haberlere daha az, sahip olduğumuz kural ve standartların büyük ölçekte çalışmasını sağlamaya daha fazla zaman ayırmalıyız” dedi.

2017’deki büyük WannaCry fidye yazılımı saldırısını durdurmasıyla tanınan eski bilgisayar korsanı ve siber tehdit araştırmacısı Marcus Hutchins ise, “Birçok üçüncü taraf anlatısı ve hatta öncü laboratuvarların kendi anlatıları bile [bilgisayar korsanlarının] davranışlarını ve yeteneklerini kıyamet senaryolarına tamamen dahil etmiyor” dedi.

İşin özüne dönmek

Yapay zekâ dünyasındaki isimlerin hedefi ıskaladığı düşünülen son örneklerden biri, Anthropic CEO’su Dario Amodei’nin bir yapay zekâ ajanının interneti ele geçirebileceği yönündeki uyarısı oldu. Geniş biçimde haberleştirilen bu iddia, siber güvenlik çevrelerinde alay konusu oldu ve çürütüldü.

Şüpheciler ayrıca Hugging Face olayına sürekli atıfta bulunulmasını da kontrolden çıkabilecek yapay zekâ modellerine ilişkin histerinin simgesi olarak gösteriyor. Bu olaya Avrupa Komisyonu Başkanı Ursula von der Leyen bile Birliğin Durumu konuşmasında değinmişti.

Hugging Face’e yönelik saldırı, güçlü bir yapay zekâ modelinin kısıtlamalarından kurtulmasını göstermekten ziyade, çok daha sıradan bir ders sunuyor olabilir: OpenAI, modeli “sandbox” olarak bilinen teknik bir ortam içinde yeterince izole etmeyi başaramadı.

Çevresinin farkında olan modeller geliştiren Hollandalı yapay zekâ laboratuvarı General Intuition’ın yöneticisi Pim de Witte, “Bu şirketler yalnızca biraz daha sorumlu davranarak birçok sorunu çözebilir” dedi.

Hutchins, OpenAI’nin modelin yazılım açıklarından yararlanma konusunda çok başarılı olduğunu bildiğini, buna rağmen güvenlik önlemlerinin azaltıldığı bir testte modeli tam da bunu yapmaya teşvik ettiğini söyledi.

“Bütün bunlara rağmen ajanlar ile açık internet arasına yeterli bariyerler oluşturarak onları uygun şekilde izole etmediler, ajanları birbirlerinden yeterince ayırmadılar ve sistemleri müdahale edebilecek kadar yakından izlemediler” dedi.

OpenAI, yorum talebine yanıt vermeyerek olayla ilgili yayımladığı rapora işaret etti. Anthropic ise yorum talebine yanıt vermedi.

Felaket yorgunluğu

Hukukçular için iş birliğine dayalı yapay zekâ araçları geliştiren Amerikan-İsveç ortaklı Legora’nın kurucu ortağı ve CEO’su Max Junestrand, bilgisayar korsanlığı olayları hakkında “Bunun büyük bir kısmı pazarlama” dedi.

Bununla birlikte Junestrand, yapay zekâ destekli bilgisayar korsanlığı saldırılarına karşı Legora’nın operasyonlarının güvenliğini sağlamanın en önemli önceliklerinden biri olduğunu belirtti. Junestrand, bu çaba açısından en yeni ve en gelişmiş ABD modellerine erişimin kritik önem taşıdığını vurgulayarak, “Güvenlik, yeni işlevlerden bile önce gelir” dedi.

Nitekim yapay zekâ kıyameti anlatısının eleştirmenleri ve şüphecileri bile öncü yapay zekâ modellerinin benzersiz derecede güçlü siber araçlar olduğu konusunda hemfikir. Aynı zamanda bu modeller, Avrupa’nın erişebilmesi gereken stratejik bir varlık olarak görülüyor.

Dahası, çok az kişi geliştirilmekte olan mevcut yapay zekâ kapasitesinin tamamen yeni bir düzeye ulaştığını inkâr ediyor. Bu teknolojilerin hem olumlu hem de olumsuz potansiyel etkilerini öngörmek ise oldukça zor.

Ancak mevcut anlatının eleştirmenleri, yapay zekânın yeteneklerini veya bilgisayar korsanlarının bu teknolojileri ne ölçüde kullandığını abartmanın ve teorik sonuçları tahmin etmeye yönelik bir tür zihin egzersizine dönüşmenin faydasız olduğunu söylüyor.

Çünkü gerçek dünyadaki siber saldırılar hâlihazırda kritik altyapıları sekteye uğratıyor. Üstelik savunma araçları ve tekniklerinden oluşan cephaneliğin zaten büyük ölçüde mevcut olduğuna dikkat çekiliyor.

Hutchins’e göre, odağın olağandışı veya düşük ihtimalli sonuçlara yönelmesi yalnızca daha acil sorunların geri plana itilmesine yol açmakla kalmıyor, aynı zamanda mevcut görevlerin yerine getirilmesine de yardımcı olmuyor.

“Yapay zekâ kıyametçiliği son derece verimsiz” diyen Hutchins, güvenlik güncellemeleri gibi gerçekten yardımcı olabilecek kritik adımların atılmasını engelleyen bir “felaket yorgunluğuna” dikkat çekti.

“Gerçekçi olalım” yaklaşımı, Avrupa’nın siber güvenlik kurumları içinde de destek buluyor. Bunlar arasında Fransız siber güvenlik kurumu ANSSI’nin başkanı Vincent Strubel de bulunuyor.

Strubel kısa süre önce LinkedIn’de yaptığı paylaşımda, “[Yapay zekâ], tüm büyük değişimler gibi önemli riskler ve muazzam fırsatlar yaratıyor. Bu riskleri yönetmek ve fırsatlardan yararlanmak, ciddi zaman baskısı altında çok ciddi çalışmalar yürütülmesini gerektirecek” diye yazdı.

Ancak Strubel’e göre bunun gerektirmediği bir şey var:

“Her iki haftada bir yeni bir panik başlatmak. Çünkü genellikle etrafta koşuşturup kollarınızı sallayarak ve/veya siber kıyamet hakkında çığlık atarak pek bir şey başaramazsınız.”

Politico