ABD’nin yabancı erişimi sınırlayan kararı sonrası şirketin politikası değişti
Anthropic, Cuma günü yaptığı açıklamada, ABD hükümetinin ulusal güvenlik endişelerini gerekçe göstererek yabancı uyrukluların modellere erişimini askıya almasını emretmesinin ardından en gelişmiş yapay zekâ modellerini “ani biçimde devre dışı bırakacağını” duyurdu.
Şirket, Fable 5 ve Mythos 5 modellerine tüm yabancı uyruklular için erişimin durdurulmasına yönelik ihracat kontrol direktifi aldığını, ancak ulusal güvenlik endişesine dair spesifik ayrıntı verilmediğini belirtti.
Anthropic’in anlayışına göre hükümet, Fable 5’in yazılım açıklarını tespit etmesini engelleyen bir güvenlik önleminin “jailbreak” ile aşılabileceğine inanıyor.
Karar, Trump yönetimi yetkilileri ile halka arz hazırlığındaki Anthropic arasındaki önceki anlaşmazlığın bazı ABD kurumlarında yumuşamaya başladığı bir dönemde geldi.
Anthropic’in hükümetle ilişkisi bu yıl, şirketin ABD ordusuna modellerini iç gözetim ve tam otonom silah sistemleri için kullanma izni vermeyi reddetmesinin ardından bozuldu. Hükümet, buna karşılık Anthropic’i yıl içinde yürürlüğe girecek bir tedarik zinciri kara listesine aldı. Bu adım, ABD’nin yabancı rakiplerin yapay zekâ yeteneklerini durdurma çabasında büyük bir tırmanma anlamına geliyor.
Anthropic, hükümetin yalnızca “dar, evrensel olmayan bir jailbreak ihtimaline dair sözlü kanıt” sunduğunu belirtti:
“Dar bir jailbreak ihtimalinin bulunmasının, yüz milyonlarca kişiye sunulmuş ticari bir modelin geri çağrılmasına neden olması gerektiği görüşüne katılmıyoruz,” dedi.
Bu direktif ve Anthropic’in yanıtı, yapay zekâ geliştiricileri ile düzenleyiciler arasında, modellerin güvenlik önlemlerini aşma yöntemleri olarak bilinen “jailbreak” risklerinin nasıl değerlendirileceği konusunda artan gerilimi ortaya koyuyor.
Çarşamba günü Anthropic, kabul edilemez riskler taşıyan modelleri engelleme yetkisi de dahil olmak üzere daha fazla ABD denetimi çağrısında bulunmuştu. Ancak şirket, Cuma günkü hükümet kararının “adil ve kanıta dayalı düzenleme ilkelerine” uymadığını söyledi.
Pentagon’un bilgi sorumlusu Kirsten Davies, X’te yaptığı paylaşımda Savunma Bakanlığı’nın ulusal güvenliği önceliklendirmeyi desteklediğini belirtti:
“Bazı şeyler gelir döngülerinden, tıklama tuzaklarından ve halka arz değerlemesinden daha önemlidir. Önce Amerika. Her zaman.”
Anthropic geçen ay ABD’de gizli olarak halka arz başvurusu yapmış, rakibi OpenAI’nin önüne geçmişti.
Sofistike siber saldırılar
Anthropic bu hafta Claude Fable 5 adlı yeni bir modeli tanıtmıştı. “Mythos sınıfı” olarak adlandırılan bu model, siber güvenlik gibi riskli alanlarda kullanımını yasaklayan koruma önlemleriyle birlikte sunuldu. Bazı kullanıcılar bu önlemleri “fazla geniş” buldu.
Uzmanlar, Mythos modellerinin yanlış ellerde sofistike siber saldırıları dramatik biçimde hızlandırabileceğini, özellikle karmaşık ve birbirine bağlı, çoğu onlarca yıllık teknoloji sistemlerine dayanan bankacılık sektöründe ciddi riskler oluşturabileceğini söylüyor.
Anthropic, Fable lansmanı öncesinde ABD hükümetiyle güvenlik konusunda çalıştığını ve rakip sağlayıcıların modellerinin de benzer şekilde küçük kod hatalarını ortaya çıkarabildiğini belirtti.
“Bu kararın net etkisi, uyum sağlamak için Fable 5 ve Mythos 5’i tüm müşterilerimiz için ani biçimde devre dışı bırakmamızdır. Diğer Anthropic modellerine erişim etkilenmeyecek,” dedi.
Şirket, bir “yanlış anlama” olduğunu düşündüğünü ve erişimi en kısa sürede yeniden sağlamaya çalıştığını ekledi:
“Bu standart tüm sektöre uygulanırsa, tüm sınır modelleri sağlayıcıları için yeni model dağıtımlarının fiilen durdurulacağına inanıyoruz.”
Amazon’un bulut birimi AWS, Anthropic’in modellerin “tüm bölgelerde tüm kullanıcılar için” erişimini iptal etmesini istediğini açıkladı.
Bir ABD yetkilisi, Ticaret Bakanlığı’nın Fable 5 ve Mythos 5’e yabancı uyrukluların erişimini askıya almak için ihracat kontrol direktifi yayımladığını doğruladı.
Eski Beyaz Saray yetkilisi Dean Ball, X’te yaptığı paylaşımda kararın “Amerikalı olmayan herkesin” Anthropic’in en yeni modellerine erişiminin kısıtlanacağı anlamına geldiğini söyledi:
“Bu, Anthropic modellerini kullanmak için vatandaşlığınızı kanıtlamanız gerekeceği anlamına geliyor.”
Anthropic’in kurucu ortağı Chris Olah, yapay zekâ araştırmacısı Andrej Karpathy ve filozof Amanda Askell gibi kilit personelin ABD dışında doğduğu biliniyor.
Reuters, vatandaşlık durumlarını belirleyemedi; Anthropic sözcüsü ise bu çalışanların model erişimini kaybedip kaybetmeyeceği konusunda yorum yapmayı reddetti.
Reuters
