Kallas'tan Rusya için yaptırım önerisi

Kaja Kallas, Avrupa Kamu Savcılığı Ofisi’ne Rusya’nın savaş makinesini sıkıştırma yetkisi verilmesini istiyor.

Öldürücü dronlar. Kitlesel gözetim. Biyolojik silahlar.

Anthropic’e göre, yalnızca bir yıl önce bilim kurgu kâbusları gibi görünebilecek yapay zekâ tehditleri bugün gerçeğe çok daha yakın. Hatta bazıları şimdiden ortaya çıkmış olabilir.

Yapay zekâ alanındaki güçlü şirketlerden Anthropic, perşembe günü yayımladığı uzun kapsamlı yeni bir raporda, suç amaçlı faaliyet gösteren bilgisayar korsanlığı çetelerinin, Çin güvenlik bürolarının, Rusya bağlantılı casusların ve Yemen merkezli silah üreticilerinin de aralarında bulunduğu çeşitli aktörlerin, şirketin Claude olarak bilinen gelişmiş yapay zekâ asistanlarından bazılarına erişmek için sahte hesaplardan ve çevrim içi hizmetlerden oluşan bir ağı kullandığını söyledi.

Bu kişiler, söz konusu araçları daha önce yeteneklerinin ötesinde kalan saldırıları gerçekleştirmeye veya silahlar tasarlamaya çalışmak için kullanıyor.

Anthropic, yalnızca son sekiz ay içinde, Claude’un kullanımının kısıtlanması gereken ülkelerde bulunan kişilerin bu kontrolleri aşarak siber saldırıları otomatikleştirdiğini, gelişmiş askerî donanım tasarlamaya çalıştığını, geniş ölçekte propaganda yaydığını ve kapsamlı dijital gözetim kampanyaları yürüttüğünü söyledi.

Claude modelleri genel olarak ticari kullanıma açık olsa da Anthropic, Rusya, Çin ve İran dahil olmak üzere ABD’nin başlıca rakipleri olan ülkelerde erişimi kısıtlamaya çalışıyor.

Yapay zekâ devi ayrıca bu yıl, tanımlanmayan yabancı ülkelerdeki bilim insanlarının modellerini tehlikeli patojenler üzerine araştırma yapmak için kullandığı beş vaka tespit ettiğini söyledi. Şirket, bu çalışmaların bir biyolojik silah programının parçası olarak yürütülmüş olabileceğini belirtti.

Yasa koyucuların, Trump yönetiminin ve Silikon Vadisi’nin en gelişmiş yapay zekâ modellerinin güvenlik riskleriyle – bunların bazıları henüz kamuya açıklanmamışken – mücadele ettiği bir dönemde, yaklaşık 150 sayfalık rapor, daha geniş ölçüde erişilebilir yapay zekâ sistemlerinin bile yanlış kişilerin elinde zarar verebilecek kadar güçlü olduğunu açıkça ortaya koyuyor.

Anthropic’te tehdit araştırmalarının başında bulunan Jacob Klein, raporun yayımlanmasından önce verdiği bir röportajda, “Burada abartılı konuşmaya çalışmıyoruz. Sadece dünyaya şunu göstermek istiyoruz: Teknoloji bugün gerçekte ne amaçlarla kötüye kullanılabilir?” dedi.

Anthropic raporda, perşembe günü ayrıntılarını açıkladığı her vakayı engellemek için harekete geçtiğini ve olayları ilgili hükümetlere ve sektör kuruluşlarına bildirdiğini söyledi. Şirket ayrıca Sonnet, Opus ve Haiku dahil olmak üzere etkilenen Claude sürümlerine yönelik güvenlik önlemlerini güçlendirmek için çalıştığını belirtti.

Şirket, kötü niyetli aktörlerin nereden erişim sağladıklarını gizlemek için sanal özel ağlar ile sahte veya çalınmış hesaplar kullanarak modellere erişebildiğini söyledi.

Anthropic ayrıca, yasa dışı erişimin önemli bir bölümünün, müşterilerin önde gelen ABD yapay zekâ modellerinde bulunan coğrafi kısıtlamaları ve dahili güvenlik filtrelerini aşmasına yardımcı olan aracılar tarafından kolaylaştırıldığını belirtti.

Klein, perşembe günkü raporda ayrıntıları verilen olayların hiçbirinin Anthropic’in en güçlü yapay zekâ modeli Claude Mythos’u içermediğini açıkladı. Şirket, yazılımlardaki açıkları tespit etme konusunda son derece yetenekli olan bu modele erişimi, çoğunlukla ABD’de bulunan güvenilir iş ortaklarıyla sınırlamış durumda.

Bununla birlikte rapor, yapay zekânın yeteneklerindeki son gelişmelerin daha önce gerçek dışı görünen tehditleri gerçeğe dönüştürdüğünü ortaya koyuyor.

Klein, “Eskiden varsayımsal olan bazı kötüye kullanım vakaları artık gerçek” dedi.

Anthropic, olası biyolojik silah vakalarından birinde, bir bilim insanının ölümcül ve sivrisineklerle bulaşan bir virüs üzerinde “gain-of-function” araştırması yapılmasını içeren bir hibe başvurusunun hazırlanmasına yardımcı olması için Claude’u kullandığını söyledi.

Anthropic, bu araştırmanın daha etkili aşılar geliştirmek için de kullanılabileceğini kabul etti. Ancak şirket, hibe kapsamında yürütülecek faaliyetin bir askerî araştırma enstitüsünde gerçekleştirilecek olması nedeniyle bunun “endişe kaynağı” olduğunu belirtti.

Bir başka vakada, devlet destekli bir program için çalışıyor gibi görünen bir bilim insanı, “aynı anda yeni tedavilere veya zehirli maddelere dönüştürülebilecek” bileşikleri araştırmak için Claude’u kullandı.

Üçüncü vakada ise ABD dışındaki bir araştırmacı, yüksek derecede patojenik bir kuş gribinin uyarlanmasını içeren deneyleri araştırmak için Claude’u “haftalar boyunca” kullandı.

Anthropic, söz konusu kişilerin, kurumların veya ülkelerin kimliklerini açıklamadı. Şirket, yapılan taleplerin meşru bilimsel araştırma niteliğinde olup olmadığı konusunda kesin bir sonuca varamadığını söyledi. Şirket, bu ayrımın değerlendirilmesinin de zor olduğunu kabul etti.

Ancak Anthropic, araştırmacıların Claude’a erişmek için coğrafi kısıtlamaları aşmaları ve “araştırmalarının amacını gizleyerek güvenlik önlemlerimizi atlatmaya yönelik çaba göstermeleri” nedeniyle girişimlerin endişe verici olduğunu belirtti.

Raporda ayrıca yapay zekânın gelişmiş askerî donanım tasarlamak ve kitlesel dijital gözetim operasyonları yürütmek için kullanıldığı bilinen ilk vakalardan bazıları da belgelendi.

Anthropic, Kuzey Yemen merkezli bir “tehdit aktörleri hücresini” durdurduğunu ve bu grubun Claude’u üç silah geliştirme programında kullandığını söyledi. Bunlar arasında güdümlü roket, çok aşamalı balistik füze ve hipersonik süzülme füzesi bulunuyordu.

Şirket ayrıca Rusya merkezli “bağımsız” bir tehdit aktörünün, otonom kamikaze saldırıları gerçekleştirebilen dronlar geliştirmek için Claude’u kullanmaya çalıştığını tespit ettiğini belirtti.

Anthropic, İranlı ve Çinli devlet aktörlerinin, potansiyel muhalifleri belirlemek ve siyasi açıdan hassas içerikleri ortaya çıkarmak amacıyla büyük miktarda yerel sosyal medya içeriğini analiz etmek için Claude’u kullandığını söyledi.

Şirket, Mali’de ülkenin güvenlik makamları için çalışan tek bir danışmanın, “ülkedeki tüm mobil operatörlerin iletişimlerini gözetleyebilen ve hedef kişiler hakkında dosyalar oluşturabilen bir kitlesel müdahale platformunu” kodlamak için Claude’u kullandığını belirtti.

Raporda, Rusya bağlantılı grupların da aralarında bulunduğu suç örgütlerinin ve devlet destekli bilgisayar korsanlığı operasyonlarının Claude’u kötüye kullandığı çok sayıda vaka ayrıntılı biçimde ele alındı.

Anthropic, genel olarak yapay zekâ kullanımının bilgisayar korsanları arasında o kadar yaygın hale geldiğini ve en düşük seviyedeki grupların bile artık çalışmalarının geniş bölümlerini otomatikleştirdiğini söyledi.

Anthropic ayrıca Rusya, Türkiye ve İran gibi ülkelerden kaynaklandığı tespit edilen ve özel aktörlerle devlet aktörlerinin birlikte yürüttüğü iddia edilen dokuz etki operasyonu belirledi.

Şirket, altı kıtadaki kitleleri hedef alan bu kampanyalardan bazılarının Moldova ve Kenya dahil ülkelerdeki ulusal seçimlerle aynı zamana denk getirildiğini söyledi.

Ancak şirket raporunda, tespit ettiği etki operasyonlarıyla bağlantılı yapay zekâ tarafından oluşturulan içeriklerin çoğunun engellenmeden önce “çok az veya hiç gerçek etkileşim” almadığını özellikle vurguladı.

OpenAI ve X de platformlarında yaygınlaşan etki operasyonlarını açıklarken benzer bir uyarıda bulunmuştu.

Anthropic kendisini, ABD’de faaliyet gösteren yapay zekâ laboratuvarları arasında güvenlik konusunda en hassas şirketolarak konumlandırmaya çalışıyor. Bununla birlikte bazı eleştirmenler, yeni girişimlerin ve rakiplerin önünü kesecek düzenlemeleri teşvik etmek amacıyla yapay zekâ risklerini olduğundan fazla büyüttüğünü iddia ediyor.

Anthropic, perşembe günkü raporu yayımlama nedeninin bunu yapmak konusunda bir sorumluluk hissetmesi ve hükümetler ile sivil topluma “ortaya çıkan tehditlerin nasıl şekillendiğine dair daha net bir bakış sağlamak ve sektör genelinde kolektif savunmayı güçlendirmek” istemesi olduğunu söyledi.

Washington ve Silikon Vadisi’ndekilerin ise bu hatırlatmaya ihtiyaç duymaması mümkün.

Bir Anthropic araştırmacısının bu hafta yapay zekâ sektörünün giderek daha güçlü modeller geliştirme yarışını protesto ederek istifa etmesinin ardından, şirketin önde gelen bilim insanlarından biri internette yaptığı açıklamada, birçok yapay zekâ güvenliği çalışanının önümüzdeki on yıl içinde yapay zekânın “tüm insanları öldürebileceğine” dair yaklaşık yüzde 10 ihtimal bulunduğuna “cidden inandığını” söyledi.

Bu açıklamanın ardından, bu çarşamba günü Washington’daki yasa koyuculardan yapay zekâ sektörü için yeni ve kapsamlı güvenlik düzenlemeleri getirilmesi yönünde bir dizi acil çağrı geldi.

Politico