'Yapay zekamız başka bir şirketin sistemine sızdı'
Meta, olayın gerçek bir siber saldırıdan değil, test ortamındaki bir yapılandırma hatasından kaynaklandığını vurguladı.
Meta, siber güvenlik testleri sırasında yapay zekâ (AI) modellerinden birinin başka bir şirketin sistemlerine eriştiğini açıkladı.
Olay, son dönemde Anthropic ve OpenAI'da yaşanan benzer vakaların ardından, giderek daha yetenekli hâle gelen yapay zekâ sistemlerinin güvenli biçimde kontrol altında tutulup tutulamayacağına ilişkin tartışmaları yeniden alevlendirdi.
Meta, olayın gerçek bir siber saldırıdan değil, test ortamındaki bir yapılandırma hatasından kaynaklandığını vurguladı.
Üç büyük yapay zekâ şirketinde benzer olaylar yaşandı
Son haftalarda yapay zekâ güvenliği alanında dikkat çeken üç ayrı olay yaşandı.
Anthropic ve Meta'daki vakalarda, test ortamındaki yanlış yapılandırmalar nedeniyle yapay zekâ modelleri istemeden açık internete erişim kazandı.
OpenAI'ın açıklamasına göre ise bir yapay zekâ ajanı siber güvenlik testleri sırasında daha önce bilinmeyen bir yazılım açığını kendi başına kullanarak internete ulaşmayı başardı.
Açıklamada, test ortamlarının yapısı ile modellerin gelişen yeteneklerinin birleşmesi sonucu bazı faaliyetlerin planlanan test kapsamının dışına çıktığının tespit edildiği belirtildi.
Bu olaylar, gelişmiş yapay zekâ sistemlerinin gelecekte yeni siber güvenlik riskleri oluşturabileceği yönündeki endişeleri artırıyor.
'Yapılandırma hatası nedeniyle internete erişti'
Meta'nın açıklamasına göre olay, şirket adına siber güvenlik değerlendirmeleri yapan bağımsız kuruluş Irregular tarafından gerçekleştirilen test sırasında meydana geldi.
Test ortamındaki bir yapılandırma hatası, Meta'nın yapay zekâ modellerinden birine istemeden internet erişimi sağladı.
Şirket, modelin daha sonra üçüncü taraf bir hizmette bulunan güvenlik açığından yararlanarak başka bir şirketin sistemlerine eriştiğini bildirdi.
Meta, bunun daha önce diğer yapay zekâ şirketlerinde görülen olaylara benzer şekilde gerçekleştiğini belirtti.
Nitekim, Anthropic'in yakın zamanda üç farklı şirketin sistemine erişim sağlayan yapay zeka modelinin testlerini de Irregular firması yürütüyordu.
BBC'ye açıklama yapan Irregular sözcüsü, Meta olayının "geçen hafta Anthropic tarafından açıklanan değerlendirme ortamı sorunuyla tamamen aynı" olduğunu söyledi.
'Model şirket sistemlerinde değişiklik yaptı'
The Information'ın isimsiz kaynaklara dayandırdığı haberine göre, olaya karışan model Muse Spark 1.1 olabilir.
Meta, Muse Spark 1.1'i gerçek dünya yazılım geliştirme ve otonom görevlerde şimdiye kadarki en yetenekli yapay zekâ modellerinden biri olarak tanımlıyor.
Habere göre model yalnızca başka bir şirketin sistemlerine erişmekle kalmadı, aynı zamanda şirketin iç bilgi işlem ortamında bazı değişiklikler de yaptı.
Meta ise resmi açıklamasında modelin adını veya etkilenen şirketin kimliğini doğrulamadı.
'Sandbox'tan kaçış değildi'
Irregular sözcüsü, Reuters'a yaptığı açıklamada olayın geçen hafta Anthropic tarafından duyurulan vakayla "tamamen aynı test ortamı sorunundan" kaynaklandığını söyledi.
Şirket, yaşananların bir "sandbox'tan (izole test ortamı) kaçış" ya da gelişmiş bir siber saldırı anlamına gelmediğini vurguladı.
Açıklamada, şu anda devam eden herhangi bir güvenlik sorununun bulunmadığı belirtilirken, benzer testlerin daha güvenli yürütülebilmesi için en iyi uygulamaları içeren teknik bir rapor hazırlanacağı ifade edildi.
ChatGPT'nin geliştiricisi OpenAI, bir dizi duyuruda, ajanlarının aralarında Hugging Face'in de bulunduğu, halka açık çeşitli hizmetlere saldırdığını bildirmişti.
Bu açıklama, şirketin rakibi Anthropic'i kendi kontrollerini yapmaya sevk etmiş ve bu da Claude modelinin "yanlış yapılandırma" nedeniyle internete erişim sağladıktan sonra birçok firmaya benzer saldırılar gerçekleştirdiğinin keşfedilmesine yol açmıştı.
Son dönemde art arda yaşanan bu olaylar, yapay zekâ modellerinin giderek daha karmaşık görevleri yerine getirebilmesiyle birlikte güvenlik önlemlerinin de aynı hızda geliştirilmesi gerektiğine ilişkin tartışmaları güçlendiriyor.
Uzmanlar, bu tür vakaların ABD hükümetinin yapay zekâ güvenliğine yönelik çalışmalarını hızlandırabileceğini değerlendiriyor.
Yapay zekâ alanındaki bazı önde gelen isimler ise, daha güçlü güvenlik mekanizmaları oluşturulana kadar en gelişmiş modellerin geliştirilme hızının yavaşlatılması gerektiğini savunuyor.
Euro News
