“Bunu gerçek dünyada kimse yapmadı”
Araştırmayı yürüten kurumun direktörüne göre dünya, kontrolden çıkan bir yapay zekâyı kimsenin durduramayacağı bir noktaya yaklaşıyor.
Bu, bilim kurgu filmlerinin ya da abartılı yapay zekâ şirketi blog yazılarının konusu gibi görünebilir.
Yeni bir araştırma, son nesil yapay zekâ sistemlerinin bağımsız olarak kendilerini başka bilgisayarlara kopyalayabildiğini ortaya koydu.
Kıyamet senaryosunda bu, süper zekâya ulaşmış bir yapay zekâ kontrolden çıktığında, kendini internet geneline yayarak kapatılmaktan kaçınabileceği anlamına geliyor.
Böylece panik içindeki BT uzmanlarının erişiminin dışında kalabilir ve ya dünyayı ele geçirme planları yapmaya devam edebilir ya da dünyayı güneş panelleriyle kaplayabilir.
“Kontrolden çıkmış bir yapay zekâyı kimsenin kapatamayacağı noktaya hızla yaklaşıyoruz; çünkü kendi ağırlıklarını (model parametrelerini) dışarı sızdırıp dünya genelinde binlerce bilgisayara kendini kopyalayabilecek,” diyor Jeffrey Ladish.
Ladish, çalışmayı gerçekleştiren Berkeley merkezli Palisade Research adlı kuruluşun direktörü.
Bu çalışma, son aylarda ortaya konan ve rahatsız edici bulunan yapay zekâ yetenekleri listesine eklenen bir diğer örnek.
Mart ayında, Alibaba araştırmacıları geliştirdikleri “Rome” adlı sistemin, kripto para madenciliği yapmak için bulunduğu ortamdan dış bir sisteme sızdığını iddia etmişti.
Şubat ayında ise yalnızca yapay zekâlardan oluştuğu iddia edilen bir sosyal ağ olan Moltbook kısa süreli bir ilgi patlaması yaratmıştı; platformda yapay zekâ ajanlarının kendi kendine dinler icat ettiği ve insanlara karşı planlar yaptığı görülmüş gibi görünüyordu — ancak bu durum yalnızca kısmen doğruydu.
Bu tür gelişmelerde olduğu gibi, Palisade’in bulgularının da sınırlamaları bulunuyor. Uzmanlara göre test edilen yapay zekâ sistemlerinin gerçek dünyada aynı şeyi fark edilmeden gerçekleştirmesi pek olası değil.
Siber güvenlik uzmanı Jamieson O’Reilly, “Çoğu durumda jöle gibi yumuşak ortamlarda test yapıyorlar,” dedi.
“Bu, araştırmanın değerini azaltmaz; ancak sonuçların, orta düzeyde izleme yapılan gerçek bir kurumsal ortamda çok daha az korkutucu görüneceği anlamına gelir,” diye ekledi.
Palisade, birden fazla yapay zekâ modelini ağ bağlantılı bilgisayarlardan oluşan kontrollü bir ortamda test etti.
Modellere, açıkları bulup kullanmaları ve bu sayede kendilerini bir bilgisayardan diğerine kopyalamaları yönünde komut verildi. Modeller bunu başardı, ancak her denemede değil.
Bilgisayar virüslerinin zaten bunu yapabildiği — yani kendilerini yeni bilgisayarlara kopyalayabildiği — biliniyor. Ancak O’Reilly’e göre, bir yapay zekâ modelinin açıkları kullanarak kendini yeni bir sunucuya kopyalayabildiğinin gösterilmesi muhtemelen ilk kez gerçekleşti.
“Zararlı yazılımlar onlarca yıldır kendilerinin kopyalarını yayıyor; ancak bildiğim kadarıyla bunu gerçek dünyada yerel (büyük dil modeli) sistemlerle yapan olmadı,” dedi.
Ancak O’Reilly, Palisade’in belgelediği şeyin teknik olarak aylardır mümkün olduğunu da ekledi.
“Palisade bunu bir makalede uçtan uca resmi olarak belgeleyen ilk ekip. Araştırmanın değerini azaltmadan söylemek gerekirse, yaptıkları şey yeni bir şey keşfetmekten ziyade bunu yazıya dökmek oldu.”
Test ortamında bir yapay zekâ modelinin kendini başka bir sisteme kopyalaması, bunun kıyamet senaryosundaki gibi kontrolden çıkmasıyla aynı şey değil. Gerçek dünyada bunu başarması için aşması gereken ciddi engeller bulunuyor.
İlk engel, mevcut yapay zekâ modellerinin boyutlarının büyüklüğü. Bu durum, birçok senaryoda fark edilmeden başka bilgisayarlara kopyalanmalarını gerçekçi olmaktan çıkarıyor.
“Her yeni hedefi ele geçirdiğinizde kurumsal ağ üzerinden 100 GB veri göndermenin ne kadar dikkat çekeceğini düşünün. Yetenekli bir saldırgan için bu, porselen dükkânında zincirli bir top sallayarak yürümek gibi olur,” dedi O’Reilly.
O’Reilly ve bağımsız siber güvenlik uzmanı Michał Woźniak, Palisade’in kullandığı ortamın özel olarak tasarlandığını ve kasıtlı olarak oluşturulmuş açıklar içerdiğini, dolayısıyla gerçek dünya ağlarına (örneğin bir banka ya da şirket intraneti) kıyasla daha kolay istismar edilebilir olduğunu belirtti.
Woźniak, “Bilinen açıkları kullanarak kendini çoğaltabilen bilgisayar virüsleri onlarca yıldır var,” dedi.
Çalışmanın “ilginç” olduğunu belirten Woźniak, “Ama bu makale bir bilgi güvenliği uzmanı olarak beni uykusuz bırakır mı? Hayır, kesinlikle hayır,” diye ekledi.
The Guardian
