Anthropic'ten, akıllı ev cihazları konusunda önemli uyarı

Anthropic yaptığı açıklamada, küçük yapay zeka modellerinin internete bağlı cihazlar arasında kendi kendilerini kopyalamaya başlamasına aylar kalmış olabileceğini belirtti.

Bu durum, hızla yayılan, devre dışı bırakma girişimlerine direnen ve hatta büyümelerini hızlandırmak için veri merkezlerine sızan yapay zeka botnet'leri olasılığını gündeme getiriyor.

Geçen ay Anthropic CEO'su Dario Amodei, yapay zekanın önümüzdeki yıl veya daha kısa bir süre içinde "kalıcı bir botnet" aracılığıyla "tüm interneti" ele geçirebileceği fikrini ilk kez ortaya atmıştı; bu uyarı siber güvenlik camiasında dikkatleri üzerine çekmişti. 

Kötü niyetli operatörler tarafından kontrol edilen geniş cihaz ağları olan botnet'ler, internetin ilk günlerinden beri varlığını sürdürüyor.

Bu ağlar genellikle Android TV kutuları, akıllı ev aletleri ve güvenlik kameraları gibi güvenliği zayıf Nesnelerin İnterneti (IoT) cihazlarını içerir ve bilgisayar korsanları tarafından spam göndermek, kötü amaçlı yazılım yaymak veya sahte trafik akışlarıyla hedef şirketleri sabote etmek amacıyla kullanılır.

Anthropic'in Pazartesi günü yayınladığı blog yazısı, bunun nasıl gerçekleşebileceğini açıklayan ilk girişim gibi görünüyordu.

Şirket, deneylerinin, kötü niyetli bir yapay zeka aracısının diğer yapay zeka modellerini çalıştırmak üzere ucuz ve internete bağlı cihazların işlem gücünü bir araya getirebileceğini gösterdiğini ifade etti. 

Ayrıca modellerin, basitleştirilmiş bir test ağı üzerinde kendilerini kopyalayabildiklerini de ekledi. Şirket, "Kapatılacak merkezi bir nokta bulunmadığından, böyle bir kopyalayıcıyı durdurmak zor olacaktır," dedi.

Rapor, siber saldırıları otomatikleştirme, sınırlı insan gözetimiyle çalışma ve güvenlik önlemlerini aşma potansiyelleri de dahil olmak üzere, giderek daha yetenekli hale gelen yapay zeka sistemleriyle ilişkili güvenlik risklerine dair daha geniş çaplı endişelere bir yenisini ekliyor.

Modellerdeki gelişmeler, sektör liderleri ve yapay zeka şirketi çalışanlarından, kontrolden çıkmış yapay zeka gelişiminin yaratabileceği ciddi ve hatta varoluşsal riskler konusunda bir dizi vahim uyarının gelmesine yol açtı.

Anthropic, deneylerinin, 30 milyar veya daha az parametreye sahip modellerin kendi kendini kopyalama için gereken bireysel görevlerin çoğunu halihazırda yerine getirebildiğini, ancak tüm süreci güvenilir bir şekilde tamamlama konusunda zorlandıklarını gösterdiğini belirtti. 

Anthropic, bazı güvenlik önlemlerinin kaldırıldığı basitleştirilmiş testlerde, GLM-5.2 ve daha güçlü modellerin uçtan uca kendini kopyalama (replikasyon) yeteneğine sahip olduğunu tespit etti. 

Şirket, daha küçük modellerin geçmişteki gelişim hızlarını korumaları halinde, 2026 yılı sonuna kadar otonom kopyalama için gereken yetkinlik düzeyine ulaşabileceklerini belirtti.

Anthropic, düşük donanım gücüne sahip sistemlerde çalışan bir yapay zeka solucanının, kopyalama sürecinin bazı aşamalarını tamamlamasının günler sürebileceğini ifade etti. 

Ayrıca, ele geçirilen cihazların yeterli sayıda başka makineye bulaşması durumunda, böyle bir ağın —bazı geleneksel kötü amaçlı yazılımlara kıyasla daha yavaş da olsa— büyümeye devam edebileceğini ekledi.

Anthropic, deneylerinde ticari veri merkezleri üzerinden otonom kopyalama gerçekleştiği gözlemlenmemiş olsa da, gelecekteki sistemlerin veri merkezi işlemcileri de dahil olmak üzere çok daha güçlü bilgi işlem kaynaklarını hedef alabileceği konusunda uyardı.

Reuters