Moonshot'tan, yapay zeka destekli siber saldırılara karşı kısıtlama kararı

Moonshot, yapay zeka destekli siber saldırılara dair endişelerin artmasıyla birlikte, yeni Kimi modelinde bilgisayar korsanlığı (hacking) yeteneklerini kısıtladı. 

Çinli girişim Moonshot AI, giderek daha özerk hale gelen yapay zekanın bilgisayar korsanlığı faaliyetlerini hızlandırabileceğine dair artan korkular üzerine, en yeni modelinin siber saldırı kapasitesini düşürdüğünü Cumartesi günü açıkladı.

Pekin merkezli Moonshot, 3 trilyon parametre sınıfında yer alan ve bugüne kadarki en yetenekli "açık ağırlıklı" (open-weight) modeli olarak tanımladığı Kimi K3.1 Pro'yu tanıtırken bu kısıtlamaları duyurdu. 

Şirket, dış geliştiricilerin modeli kendi sistemlerinde çalıştırmalarına ve üzerinde değişiklik yapmalarına olanak tanıyan "ağırlık" dosyalarını 4 Kasım'a kadar yayımlamayı planlıyor. 

Moonshot, modelin genel kodlama becerilerini korurken, eğitim veri setinden ve modelin geliştirilmesinde kullanılan pekiştirmeli öğrenme ortamlarından siber saldırılarla ilgili verileri çıkardığını belirtti.

Şirket, "Siber yeteneklerin sınırlarını en üst düzeye taşıyacak açık ağırlıklı modeller yayımlamamayı hedefliyoruz" açıklamasında bulundu.

Hükümetler, teknoloji şirketleri ve güvenlik araştırmacıları, yapay zekanın gelişmiş bilgisayar korsanlığı eylemlerini daha kolay ve ucuz hale getirebileceğinden giderek daha fazla endişe duyuyor. 

Kod yazabilen, yazılım araçlarını kullanabilen ve çok aşamalı uzun görevleri tamamlayabilen modeller; kullanıcıların programlardaki zayıf noktaları tespit etmelerine ve siber saldırıların bazı bölümlerini otomatikleştirmelerine yardımcı olabilir. 

Çin, geçtiğimiz hafta yapay zeka destekli kötü amaçlı yazılım oluşturma ve mutasyon teknolojilerinin ihracatını yasaklamayı, ayrıca yapay zeka destekli güvenlik açığı keşfetme araçlarını kısıtlamayı öngören ihracat kontrolleri önerdi. 

Kamuoyunun görüşüne sunulan bu taslak önlemler; söz konusu yeteneklerin kritik altyapılara, savunma sanayii sistemlerine ve temel devlet sistemlerine karşı kullanılabileceği ya da güvenlik korumalarını aşmak için değerlendirilebileceği riskine dikkat çekiyor.

Moonshot ise açık ağırlıklı modellerin, daha fazla kuruluşun kendi yazılımlarını —yeterince ilgi görmeyen eski sistemler de dahil olmak üzere— incelemesine ve güvence altına almasına yardımcı olarak güvenliği artırabileceğini savunuyor.

Bununla birlikte, özel ve kapalı yapay zeka sistemlerinin aksine, açık ağırlıklı modeller merkezi denetimi zorlaştırıyor.

Dosyalar geniş çapta dağıtıldığında, orijinal geliştiricinin erişimi kısıtlama, kullanımı izleme veya güvenlik önlemlerini güncelleme imkanı, bulut tabanlı (barındırılan) bir hizmete kıyasla çok daha sınırlı kalıyor. 

Şirket, K3.1 Pro'nun kendi bünyesindeki siber güvenlik kıyaslama testinde %81,0 puan aldığını; risk azaltma önlemlerinin bulunmadığı benzer bir versiyonun ise aynı testte %90,5 puan elde ettiğini belirtti. 

Söz konusu test, kontrollü bir ortamda yazılım açıklarının tespit edilmesini ve bu açıklardan yararlanılmasını içeriyordu. 

Moonshot, bu karşılaştırmanın, siber güvenlikle ilgili verilerin filtrelenmesinin modelin saldırı odaklı siber performansını düşürdüğünü, ancak buna rağmen modelin bir önceki versiyonundan daha iyi bir performans sergilediğini gösterdiğini ifade etti.

K3.1 Pro, 1 milyon tokenlık bir bağlam penceresine (context window) sahip olup, bu sayede aynı anda çok büyük miktardaki metin verisini işleyebilmektedir. 

Moonshot ayrıca, standart modele kıyasla iki ila üç kat daha hızlı çalıştığını belirttiği "K3.1 Pro Highspeed" adlı daha hızlı bir versiyonu da piyasaya sürdü.

Reuters