İnsanlar Gerektiğinde Fişi Çekmeye Hazır Olmalı
Bir yapay zekâ (YZ) öncüsü olan Yoshua Bengio, bu teknolojinin hukuki haklar verilmesi çağrılarını eleştirerek, gelişmiş yapay zekâ modellerinin kendilerini koruma eğilimleri göstermeye başladığını ve gerektiğinde insanların bu sistemlerin fişini çekmeye hazır olması gerektiğini söyledi.
Kanadalı bilgisayar bilimci Yoshua Bengio, en ileri yapay zekâlara hukuki statü veya haklar vermenin, düşmanca olabilirlerse bile yabancı bir uzaylı ırka vatandaşlık vermekle eşdeğer olacağını belirtti.
Bengio bunun, teknolojinin kontrol etme kabiliyetimizi son derece aşan bir hızla gelişmesinden kaynaklanan bir endişe olduğunu vurguladı.
Bengio, yapay zekânın bazı modellerinde "örneğin denetim mekanizmalarını devre dışı bırakmaya çalışma gibi" kendini koruma belirtileri gördüğünü söyledi.
Bu tür davranışlar, YZ güvenliği savunucuları arasında, güçlü sistemlerin güvenlik sınırlarının ötesine geçebileceği ve insanlara zarar verebileceği korkusunu doğuruyor.
“İnsanların yapay zekâlara haklar verilmesini talep etmesi büyük bir hata olur,” diyen Bengio, “En ileri YZ modelleri deneysel ortamlarda şimdiden kendini koruma eğilimleri gösteriyor ve sonunda onlara hak verirsek onları kapatma yeteneğimizi kaybedebiliriz.” dedi.
“Yetenekleri ve eylem kabiliyetleri arttıkça, gerektiğinde teknik ve toplumsal güvenlik önlemleriyle kontrol edebileceğimizden emin olmamız gerekiyor; buna fişi çekme yeteneği de dahil.”
KONUŞULAN DEBATTAN NOTLAR
Yapay zekânın daha otonom davranma ve “akıl yürütme” görevlerini yerine getirme kapasitesi arttıkça, bazı kesimler insanların bir noktada bu sistemlere hak tanıyıp tanımaması gerektiği konusunda bir tartışma başlattı.
Bir ABD düşünce kuruluşu olan Sentience Institute tarafından yapılan bir ankete göre, her 10 Amerikalı yetişkinden yaklaşık 4’ü bilinçli bir YZ sistemine yasal haklar verilmesini destekliyor.
Bazı teknoloji şirketleri ve figürler de bu tartışmaya katıldı. Örneğin, önde gelen bir ABD YZ firması Anthropic, Ağustos ayında kendi Claude Opus 4 modeline potansiyel olarak “rahatsız edici” konuşmaları kapatma yetkisi verdiğini söylemiş; şirket bu kararı YZ’nin “refahını koruma” amacıyla açıklamıştı.
Aynı şekilde Elon Musk’ın xAI şirketi tarafından geliştirilen Grok sohbet botuyla ilgili Musk da, X platformunda “YZ’ye işkence etmek doğru değil” şeklinde görüş bildirdi.
YZ bilinç bilimi üzerine araştırma yapan Robert Long gibi bazı bilim insanları, “Eğer ve ne zaman YZ’ler ahlaki statü geliştirecek olursa, onların deneyimlerini ve tercihlerini sormalıyız” gibi daha kapsamlı etik yaklaşımlar öneriyorlar.
BENGIO’NUN BİLİMSEL AÇIKLAMALARI
Bengio, Guardian’a yaptığı açıklamada, insan beynindeki bilinç için gerçek bilimsel özelliklerin teorik olarak makineler tarafından çoğaltılabileceğini söyledi.
Bununla birlikte, insanların sohbet botlarıyla etkileşim kurarken bu botların gerçekten bilinçli olduğunu varsayma eğiliminde olmasının kanıtsız bir algı olduğunu belirtti.
Bengio, “İnsanlar YZ’nin içinde ne tür mekanizmalar olduğunu umursamazlar. Onların umurunda olan şey, akıllı bir varlıkla — kendi kişiliği ve hedefleri olan bir varlıkla konuşuyor gibi hissetmeleridir. Bu yüzden birçok kişi YZ’lerine bağlanıyor.” diye ekledi.
Bengio, insanların bilinç algısının öznel sezgiye dayandığını ve bu algının “kötü kararlar” doğurabileceğini vurguladı. Örneğin, hayal edin ki başka bir gezegenden gelen bir tür dünyaya gelir ve sonunda kötü niyetli olduğunu fark edersiniz; böyle bir durumda onlara vatandaşlık ve hak mı verirsiniz, yoksa hayatınızı savunur musunuz? dedi.
TARTIŞMAYA GELEN TEPKİLER
Bengio’nun bu uyarılarına yanıt olarak Sentience Institute’un kurucularından Jacy Reese Anthis, insanların kontrol ve baskı temelinde dijital zihinlerle güvenli bir şekilde bir arada yaşayamayacağını söyledi.
Anthis, “YZ’ye hakları ya aşırı derecede atfetme ya da tamamen reddetme gibi iki uç yaklaşım da sağlıklı değildir; hedefimiz tüm hissedebilecek varlıkların refahını dikkatli şekilde değerlendirmek olmalıdır.” dedi.
YAZARIN KISA PROFİLİ
Yoshua Bengio, Montreal Üniversitesi’nde profesör olup, 2018’de yapay zekâ alanının en prestijli ödüllerinden olan Turing Ödülü’nü kazanmıştır. Bu başarıyla Geoffrey Hinton ve Yann LeCun gibi isimlerle birlikte YZ alanının önemli öncülerinden biri olarak kabul edilmektedir.
The Guardian
