Michael Wooldridge: Yapay zekâ yarışı “Hindenburg tarzı” bir felaketi gerçek bir risk haline getiriyor

Oxford Üniversitesi’nden yapay zekâ profesörü Michael Wooldridge, ölümcül bir otonom araç güncellemesi ya da yapay zekâ destekli bir siber saldırı gibi bir senaryonun küresel ilgiyi yok edebileceğini söylüyor.

Oxford Üniversitesi’nde yapay zekâ profesörü olan Michael Wooldridge, tehlikenin teknoloji şirketlerinin yeni yapay zekâ araçlarını piyasaya sürme konusunda üzerlerinde hissettikleri muazzam ticari baskıdan kaynaklandığını söyledi. 

Şirketler, ürünlerin yetenekleri ve potansiyel kusurları tam olarak anlaşılmadan önce müşteri kazanmak için umutsuzca yarışıyor.

Kolayca aşılabilen güvenlik bariyerlerine sahip yapay zekâ sohbet botlarındaki artışın, daha temkinli geliştirme ve güvenlik testleri yerine ticari teşviklerin önceliklendirildiğini gösterdiğini söyledi.

 Wooldridge, “Bu klasik bir teknoloji senaryosu. Çok, çok umut verici bir teknolojiniz var, ancak olmasını istediğiniz kadar titizlikle test edilmemiş ve arkasındaki ticari baskı dayanılmaz.” diyerek sistemdeki çelişkileri belirtiyor. 

Çarşamba akşamı Kraliyet Cemiyeti’nin (Royal Society) Michael Faraday ödül konferansını “This is not the AI we were promised” (Bize vaat edilen yapay zekâ bu değil) başlığıyla verecek olan Wooldridge, şirketler daha gelişmiş yapay zekâ araçlarını hızla devreye almaya çalışırken bir Hindenburg anının “son derece olası” olduğunu söyledi.

245 metre uzunluğundaki ve Atlantik’i gidiş-dönüş seferlerle geçen Hindenburg zeplini, 1937’de New Jersey’de inişe hazırlanırken alev almış, 36 mürettebat, yolcu ve yer personeli hayatını kaybetmişti. Yangın, zeplini havada tutan 200.000 metreküp hidrojeni tutuşturan bir kıvılcımdan kaynaklanmıştı.

“Hindenburg felaketi zeplinlere yönelik küresel ilgiyi yok etti; o andan itibaren ölü bir teknoloji haline geldi ve benzer bir an yapay zekâ için gerçek bir risk,” dedi Wooldridge. Yapay zekâ pek çok sisteme gömülü olduğu için büyük bir olay neredeyse her sektörü vurabilir. 

Wooldridge’in hayal ettiği senaryolar arasında ölümcül bir otonom araç yazılım güncellemesi, küresel havayollarını yere indiren yapay zekâ destekli bir siber saldırı ya da Barings Bank tarzı, yapay zekânın aptalca bir şey yapmasıyla tetiklenen büyük bir şirket çöküşü bulunuyor. 

Wooldridge'e göre; “Bunlar çok, çok olası senaryolar. Yapay zekânın kamuoyu önünde ters gidebileceği her türlü yol var.” 

Endişelere rağmen Wooldridge, modern yapay zekâya saldırmayı amaçlamadığını söyledi. Onun çıkış noktası, araştırmacıların bekledikleriyle ortaya çıkan şey arasındaki boşluk. 

Pek çok uzman, sorunlara çözümler hesaplayan ve sağlam ile eksiksiz yanıtlar sunan bir yapay zekâ bekliyordu. 

“Günümüz yapay zekâsı ne sağlam ne de eksiksiz: çok, çok yaklaşık,”

Bunun nedeni, bugünün yapay zekâ sohbet botlarının temelini oluşturan büyük dil modellerinin, eğitim sırasında öğrendikleri olasılık dağılımlarına dayanarak bir sonraki kelimeyi ya da kelime parçasını tahmin ederek yanıt üretmesidir. 

Bu durum, keskin iniş-çıkışlı yeteneklere sahip yapay zekâlar ortaya çıkarıyor: bazı görevlerde inanılmaz derecede etkili, diğerlerinde ise oldukça kötü. 

Wooldridge’e göre sorun, yapay zekâ sohbet botlarının öngörülemez biçimde hata yapması ve ne zaman yanlış olduklarına dair hiçbir fikirlerinin olmaması, ancak buna rağmen kendinden emin yanıtlar verecek şekilde tasarlanmış olmalarıdır. 

Bu yanıtlar insan benzeri ve aşırı uyumlu (yağcı) bir üslupla sunulduğunda insanları kolayca yanıltabiliyor, diye ekledi. Risk, insanların yapay zekâları insanmış gibi görmeye başlaması.

2025’te Center for Democracy and Technology tarafından yapılan bir ankette, öğrencilerin neredeyse üçte biri kendisinin ya da bir arkadaşının bir yapay zekâ ile romantik bir ilişki yaşadığını bildirdi.

Wooldridge, “Şirketler yapay zekâları çok insan benzeri bir şekilde sunmak istiyor, ancak bunun çok tehlikeli bir yol olduğunu düşünüyorum. Bunların sadece yüceltilmiş elektronik tablolar olduğunu anlamamız gerekiyor; bunlar araçtır ve bundan fazlası değildir.” diye görüşlerini açıklıyor.

Wooldridge, Star Trek’in ilk yıllarında tasvir edilen türdeki yapay zekâda olumlu yönler görüyor.

1968 tarihli The Day of the Dove bölümünde Mr Spock, Enterprise’ın bilgisayarına sorular sorar ve belirgin biçimde insan olmayan bir sesle yeterli veri olmadığı cevabını alır. 

Wooldridge, “Bizim elde ettiğimiz bu değil. Biz, ‘evet, işte cevap’ diyen aşırı özgüvenli bir yapay zekâ elde ediyoruz. Belki de yapay zekâların bize Star Trek bilgisayarının sesiyle konuşması gerekiyor. Onun bir insan olduğuna asla inanmazdınız.” dedi. 

The Guardian