Şirketler, yeni yapay zekâ modellerini kamuya sunulmadan önce ABD hükümetiyle paylaşacak.
Ticaret Bakanlığı bünyesindeki Yapay Zekâ Standartları ve İnovasyon Merkezi (CAISI), Salı günü yaptığı açıklamada bu anlaşmanın, modellerin dağıtıma alınmadan önce değerlendirilmesine ve yetenekleri ile güvenlik risklerinin incelenmesine olanak sağlayacağını bildirdi.
Anthropic şirketinin Mythos modeli de dahil olmak üzere gelişmiş yapay zekâ sistemlerinin geliştirilmesi, son haftalarda ABD’li yetkililer ve şirketler arasında, bu sistemlerin hacker’ları güçlendirme potansiyeli nedeniyle küresel ölçekte tartışma yarattı.
Açıklamada Anthropic’ten ayrıca bahsedilmedi.
Şirket, yapay zekâ araçlarının askeri kullanımına yönelik güvenlik önlemleri konusunda Pentagon ile anlaşmazlık yaşıyor.
CAISI Direktörü Chris Fall yaptığı açıklamada, “Bağımsız ve titiz ölçüm bilimi, sınır düzeyindeki yapay zekâyı ve bunun ulusal güvenlik üzerindeki etkilerini anlamak için hayati önemdedir,” dedi.
Hükümetin yapay zekâ model testleri için ana merkezi olan CAISI, kamuya henüz sunulmamış en ileri modeller de dahil olmak üzere 40’tan fazla değerlendirmeyi tamamladığını açıkladı.
Ajansa göre geliştiriciler, ulusal güvenlik risklerini inceleyebilmesi için çoğu zaman güvenlik önlemleri azaltılmış model versiyonlarını merkeze teslim ediyor.
Geçtiğimiz hafta Pentagon, askeri alanda daha fazla yapay zekâ sağlayıcısıyla çalışmayı genişletmek amacıyla, gelişmiş yapay zekâ kapasitelerini Savunma Bakanlığı’nın gizli ağlarında kullanmak üzere yedi şirketle anlaşmaya vardığını duyurdu.
Microsoft, Google ve xAI konuyla ilgili yorum taleplerine henüz yanıt vermedi.
Reuters
