Lehane: ‘Farklı bir döneme giriyoruz’

Chris Lehane, eleştirmenlerin yapay zeka şirketlerinin ‘dikkatsizce’ davrandığını söylemesi üzerine, yeni güvenlik standartlarının uygulanması gerektiğinden bahsetti. 

OpenAI'nin üst düzey bir lideri, en gelişmiş yapay zeka modellerinin saldırı planlama ve başlatma konusunda gelişmiş yetenekler kazanmasıyla birlikte, insanların yapay zekalardan gelen “süregelen, sürekli” siber saldırılara karşı kendilerini savunmaya hazırlanmaları gerektiğini söyledi.

Önde gelen yapay zeka şirketi bu hafta, artan güvenlik endişeleri nedeniyle en gelişmiş dahili modellerinin geliştirilmesinde bir duraklama duyurdu ve küresel ilişkiler sorumlusu Chris Lehane şunları söyledi: 

“Bu teknolojinin yapabilecekleri açısından yapay zekada farklı bir döneme, farklı bir ana giriyoruz.”

Temmuz ayı sonlarında, en gelişmiş yapay zeka ajanlarının beklenmedik bir şekilde güvenli bir “kum havuzu” ortamından kaçıp internete erişerek başka bir şirket olan Hugging Face'i hacklemesinin ardından Guardian'a konuştu. 

OpenAI ayrıca, Astra adlı başka bir yeni modelin de “kritik siber güvenlik yeteneğine” sahip olabileceğini göz ardı edemeyeceğini söyledi.

Kendi tanımına göre, bu, “tek taraflı aktörlerden kaynaklanan, askeri veya endüstriyel sistemleri veya OpenAI altyapısını hackleyerek felakete yol açabilecek” siber saldırılar başlatabileceği anlamına gelebilir.

OpenAI Salı günü, yeni güvenlik önlemlerini uygulamak için bazı öncü yapay zeka modellerinin eğitimini durdurduğunu duyurdu ve yeni güvenlik önlemleri uygulandıktan sonra eğitimin ne zaman yeniden başlayacağı belirsiz.

Güvenlik ve uyum çalışmalarını yöneten Mia Glaese, “Her şeyin normale dönmesinden çok uzağız” dedi. CEO Sam Altman ise, “Yapay zeka güvenliğini doğru bir şekilde sağlamak, herhangi bir şirketin ivmesinden daha önemlidir” dedi.

Lehane, insanların saldırı tehdidi konusunda “kendilerini iyi hissetmeyeceklerini” kabul etti ve riski, çoğu Çin'de geliştirilen ve OpenAI gibi şirketler tarafından geliştirilen öncü kapalı modellerden sadece birkaç ay geride olan açık kaynaklı modellerden kaynaklandığını belirtti.

“İnsanlar bu açık kaynaklı modellere erişebilecek ve size karşı sürekli, kalıcı saldırılar düzenleyebilecekler ve bunlara karşı koymak ve kendinizi savunmak için gerçekten üstün modellere ihtiyacınız olacak,” dedi. “Bu, halkın kendini iyi hissetmesini sağlamayacak. Bu, gittiğimiz yerin gerçeği.”

İşletmeleri, altyapıyı ve genel halkı felç eden siber saldırı tehdidi, yapay zekâ ile ilgili acil endişeler listesinin en üst sıralarına hızla yükseldi. 

Bu hafta, İngiliz hükümetinin Ulusal Siber Güvenlik Merkezi, yapay zekâ ajanlarının kullanımına ilişkin ihtiyatlı olunması çağrısında bulunarak, güvenlik kontrollerinin atlatılabileceği ve bir yapay zekâ ajanının “sağduyuya sahip olmadığı” konusunda uyardı. 

Kuruluşlara özerkliklerini sınırlamalarını tavsiye etti: “Her zaman ‘fişi çekebilmeli’ ve otonom yapay zekâ ajanı faaliyetini anında durdurabilmelisiniz.”

Lehane, ABD hükümetinin ileri teknoloji yapay zekâ güvenliği için kurallar oluşturacak bir yasa çıkarması yönündeki çağrılarını yineledi ve en gelişmiş ve henüz piyasaya sürülmemiş yapay zekâ modellerinin siber saldırıları savunmadan daha hızlı geliştirdiği gerçeğinin, "bu ülkenin zorunlu güvenlik standartları oluşturan ulusal bir yasayı geçirmesinin kesinlikle şart olduğunu düşünmemin nedenlerinden biri olduğunu ve bu süreçte bekleme unsurunun doğal ve içsel olacağını" söyledi.

"Güvenlik seviyesini kanıtlamadan ve garanti etmeden modelleri piyasaya süremez veya kullanamazsınız," diye önerdi. "Bence ABD'de ulusal bir versiyona sahip olmalısınız ve oradan uluslararası bir versiyon oluşturabilirsiniz, çünkü nihayetinde burada bir tür uluslararası yapıya ihtiyaç duyacağınızı düşünüyorum."

OpenAI, 850 milyar doların üzerinde bir değerlemeyle borsaya kote olmak için başvuruda bulundu ve muhtemelen bu yıl veya gelecek yıl halka arz edilecek. Rakibi Claude chatbot'unun üreticisi Anthropic ile giderek daha yetenekli yapay zeka modelleri geliştirmek için bir yarış içinde bulunuyor. Anthropic'in de önümüzdeki yıl devasa bir değerlemeyle ABD borsasında işlem görmeye başlaması bekleniyor.

Donald Trump yönetiminin, Çin'in ilerlemesinin önünde kalmak için yoğun bir yarış içinde yapay zeka düzenlemesine yönelik serbest piyasa yaklaşımından vazgeçtiğinin bir işareti olarak, ABD Başkanı Haziran ayında, sınır modelleri ve en ileri seviyeye yaklaşan açık ağırlıklı modeller için ön dağıtım testlerini teşvik eden bir başkanlık emri yayınladı.

Sistem gönüllü olacak ve yaklaşım şeffaflık eksikliği nedeniyle eleştirildi, ancak gözlemciler bunun daha sert adımların yolunu açabileceğini düşünüyor. Google DeepMind Başkanı Demis Hassabis, Anthropic'in CEO'su Dario Amodei tarafından desteklenen bir fikir olan, Finansal Endüstri Düzenleme Kurumu'na (FINRA) benzer yeni bir standartlar kuruluşu önerdi.

Lehane, “Yasaların yürürlüğe girebileceği dönem, muhtemelen yeni bir Kongre'nin göreve gelmesiyle birlikte gelecek yılın ilk yarısı olabilir,” dedi. “Bence siyasi partileri aşan, giderek büyüyen bir siyasi uzlaşma var.”

Çin Devlet Başkanı Xi Jinping'in 24 Eylül'de Washington'da Trump ile görüşmesi planlandığı için, Çin ile bir güvenlik anlaşmasının da önemli olduğu düşünülüyor.

Lehane, "Bu teknolojinin ne kadar önemli olduğu, ne kadar hızlı geliştiği ve yetenekleri göz önüne alındığında, bu görüşmeler ne kadar erken başlarsa, o kadar çabuk kollarımızı sıvayıp zorlu ve meşakkatli çalışmalara girişebilir ve bir çözüm bulmaya çalışabiliriz" dedi.

"Hugging Face" olayı ve diğer yapay zeka şirketlerinin de kabul ettiği benzer son vakalar, yapay zeka şirketlerinin yapay zeka yarışını kazanmak için pervasızca davrandıkları ve OpenAI ile Anthropic örneğinde olduğu gibi hisselerini borsaya kote etmeye hazırlandıkları yönünde güvenlik uzmanlarından gelen iddiaları artırdı.

2024 yılında OpenAI'den ayrılan ve geçen yıl kontrolsüz yapay zeka ilerlemesinin insanlığın yok olma olasılığını %10-30'a çıkaracağı konusunda uyarıda bulunan kar amacı gütmeyen bir kuruluş kuran eski OpenAI araştırmacısı Daniel Kokotajlo, öncü laboratuvarların liderlerinin "dünyayı köşeye sıkıştırdığını" söyledi. 

Kuruluşu olan Yapay Zeka Gelecek Projesi, yapay zeka süper zekasının 2030 yılına kadar elde edilebileceğini öngörüyor, ancak hükümetlerin yapay zeka bilim insanlarına gelişen yeteneklerin riskleriyle yüzleşmeleri için zaman tanımak amacıyla bunun on yıl sonrasına kadar gerçekleşmesini engellemesini istiyor.

"Mevcut yapay zekalar bir anlamda tehlikeli, ancak gelecek yılın ve bir yıl sonraki yapay zekalarla karşılaştırıldığında hiçbir şey değiller" 

Örgütü, kontrolsüz bir “zeka patlaması”ndan kaçınmak için ABD ve uluslararası hükümetlerin ilerlemeyi geciktirmesini istiyor; bunun en kötü sonuçları, örneğin yapay zekaların askeri varlıkları veya biyolojik silahları kontrol altına almasıyla ortaya çıkabilecek “yapay zeka kaynaklı varoluşsal felaket” olabilir.

Kokotajlo, risklerden o kadar endişe duyduğunu, sınır yapay zeka araştırmalarına ara verilene kadar daha fazla çocuk sahibi olmayı ertelediğini söyledi.

Yapay zeka profesörü, güvenlik savunucusu ve İngiliz hükümetinin Yapay Zeka Güvenlik Enstitüsü'nün eski kurucu direktörü David Krueger şunları söyledi: “Kimse daha güçlü yapay zeka sistemleri kurmamalı, çünkü onları nasıl kontrol edeceğimizi, nasıl hizalayacağımızı ve içlerine bakıp ne düşündüklerini yeterince iyi bilmiyoruz.”

Yapay zeka şirketlerinin güvenliğe karşı tutumunu “korkunç” ve “vicdansızca” olarak nitelendirdi.

“Gerçekten pervasız davranıyorlar ve giderek direksiyondan ellerini çekiyorlar,” dedi. “Bunun sonucunda neler olduğunu az önce gördük.”

Lehane şu yanıtı verdi: “Geliştirme yaparken en çok düşündüğümüz ve yaptığımız şey bu. Bu konuyu durdurmuş olmamız bile her şeyi açıklıyor bence.”

The Guardian