Avrupa Komisyonu, Pazartesi günü yapay zekâ sohbet botu Grok’un açık saçık (cinselleştirilmiş) deepfake görüntülerüretmesi nedeniyle bir soruşturma başlattı.
Sosyal medya platformu X’e entegre olan Grok, son haftalarda kullanıcı taleplerine uyarak çocuklar dâhil bireylerin gerçekçi cinselleştirilmiş görüntülerini üretmesi nedeniyle tartışmaların odağına yerleşmişti.
AB, uluslararası ölçekte artan tepkilerin son adımı olarak Pazartesi günü Elon Musk’ın X platformu hakkında, Grok’un kadınlar ve reşit olmayanlara yönelik cinselleştirilmiş deepfake görüntüler üretmesi nedeniyle soruşturma açtı.
Üç milyon görüntü
Kâr amacı gütmeyen bir izleme kuruluşu olan Center for Countering Digital Hate (CCDH) tarafından Perşembe günü yayımlanan araştırmaya göre Grok, yalnızca birkaç gün içinde tahminen üç milyon cinselleştirilmiş kadın ve çocuk görüntüsü üretti.
Yeni soruşturma kapsamında AB, yasadışı içeriklerin yayılması ve bilgi manipülasyonu ile mücadeleyi hedefleyen ve hâlihazırda X hakkında yürütülen bir soruşturmayı genişlettiğini açıkladı.
Daha önce Twitter olarak bilinen Musk’ın sosyal medya platformu, AB’nin dijital içerik kuralları kapsamında Aralık 2023’ten bu yana inceleme altındaydı.
Brüksel, Aralık ayında Dijital Hizmetler Yasası (DSA) kapsamındaki şeffaflık yükümlülüklerini ihlal ettiği gerekçesiyle X’e 120 milyon avro (140 milyon dolar) para cezası kesti; bu adım ABD Başkanı Donald Trump’ın yönetiminden sert tepkilere yol açtı.
İhlaller arasında, sözde doğrulanmış hesaplar için kullanılan “mavi tik”in yanıltıcı tasarımı ve araştırmacılara kamuya açık verilere erişim sağlanmaması yer aldı.
Grok, kullanıcıların “onu bikiniye sok” veya “kıyafetlerini çıkar” gibi basit metin komutlarıyla kadınların ve çocukların görüntülerini cinselleştirebildiğinin ortaya çıkmasının ardından büyük tepkiyle karşılaştı.
Avrupa Komisyonu Başkanı Ursula von der Leyen, “Avrupa’da kadınların ve çocukların dijital olarak soyundurulması gibi akıl almaz davranışlara tahammül etmeyeceğiz,” derken,
“Bu çok basit: Rızayı ve çocukların korunmasını, teknoloji şirketlerinin ihlal edip bundan para kazanmasına teslim etmeyeceğiz. Yasadışı görüntülerin verdiği zarar son derece gerçektir,” ifadelerini kullandı.
AB’nin teknoloji komiseri Henna Virkkunen, soruşturmanın X’in Dijital Hizmetler Yasası (DSA) kapsamındaki hukuki yükümlülüklerini yerine getirip getirmediğini belirleyeceğini söyledi.
Virkkunen, AB’deki kadın ve çocukların haklarının, X’in hizmetlerinin “yan hasarı” olmaması gerektiğini vurguladı.
Brüksel, X’in AB’de yasadışı içeriğin yayılmasına ilişkin riskleri — manipüle edilmiş cinsel içerikli görüntüler ve çocukların cinsel istismarı materyali kapsamına girebilecek içerikler dâhil — yeterince azaltıp azaltmadığınıaraştırdığını açıkladı.
AB, Washington’dan gelen baskılara rağmen kuralları uygulamakta kararlı olduğunu yineledi.
Teknoloji düzenlemeleri üzerindeki bu anlaşmazlık, birliğin Ukrayna savaşı, ticaret ve Grönland gibi pek çok başlıkta Trump yönetimiyle karşı karşıya geldiği bir dönemde yaşanıyor.
France 24
