İspanya, sosyal medya platformları X, Meta ve TikTok’un yapay zekâ tarafından üretilmiş çocuk cinsel istismar materyalini yaydığı iddiasıyla savcılara soruşturma talimatı verdi.
Bu adım, Avrupalı düzenleyicilerin zararlı ve yasa dışı içerikler nedeniyle büyük teknoloji şirketlerine yönelik denetimlerini artırdığı bir dönemde geldi.
Başbakan Pedro Sánchez tarafından yapılan açıklama, düzenleyicilerin dijital reklamcılıkta rekabete aykırı davranışlardan bağımlılık yaratan özelliklerin bilinçli tasarımına kadar uzanan uygulamalarla platformları suçladığı daha geniş çaplı bir çevrim içi platformlara karşı baskının ortasında geldi.
Sánchez’in adını verdiği üç şirket, e-posta yoluyla yapılan yorum taleplerine hemen yanıt vermedi.
Hükümetin bu ayın başında Dubai’de düzenlenen bir zirvede Sánchez’in açıkladığı sosyal medya düzenlemeleri paketinin ilk adımı olan bu girişimin, üç bakanlık tarafından hazırlanan teknik bir rapora dayandığı daha sonra Başbakanlık tarafından yapılan açıklamada belirtildi.
Hükümet sözcüsü Elma Saiz gazetecilere, yetkililerin bu tür suçların “algoritmalar tarafından büyütülmesine ya da korunmasına izin veremeyeceğini” söyledi ve çocukların güvenliği, mahremiyeti ve onurunun risk altında olduğunu ekledi.
Ayrı olarak salı günü İrlanda Veri Koruma Komisyonu, X platformunun xAI sohbet botu Grok hakkında kişisel verilerin işlenmesi ve çocuklar da dahil olmak üzere zararlı cinselleştirilmiş görüntü ve videolar üretme potansiyeli nedeniyle resmî bir soruşturma başlattığını duyurdu.
ABD merkezli şirketin AB operasyonları İrlanda’da bulunduğu için Elon Musk’a ait X’in AB’deki baş düzenleyicisi İrlanda DPC’dir.
Teknoloji platformlarına yönelik küresel denetim
Sánchez’in ofisi, hak örgütü Save the Children verilerine atıfta bulunarak, İspanya’daki her beş gençten birinin — çoğunluğu kız çocukları — reşit olmadıkları dönemde kendilerine ait sahte çıplak görüntülerin yapay zekâ ile üretildiğini ve çevrim içi ortamda paylaşıldığını söyledi.
Sánchez, X platformunda yaptığı paylaşımda, “Bu platformlar çocuklarımızın ruh sağlığını, onurunu ve haklarını zedeliyor. Devlet buna izin veremez. Bu devlerin cezasızlığı sona ermeli.” dedi.
Adalet Bakanlığı’nın savcılardan, “X, Meta ve TikTok’un yapay zekâ kullanarak çocuk pornografisi üretimi ve yayılması yoluyla işlemiş olabileceği suçları” soruşturmasını isteyeceğini söyledi.
İspanya, sosyal medya platformlarına karşı harekete geçen tek ülke değil. Yasa dışı içerikleri sınırlamaya yönelik küresel çabaların genişlediği bir ortamda diğer hükümetler de soruşturmalar başlattı, yasaklar getirdi ve çeşitli güvenlik önlemleri talep etti.
Avrupa Komisyonu, Avrupa Birliği’nin Dijital Hizmetler Yasası kapsamında Meta, TikTok ve Grok hakkında soruşturma yürütüyor.
Fransa, Brezilya ve Kanada ise yasa dışı içerik dağıtımı nedeniyle Grok hakkında şikâyette bulundu.
İki hafta önce Sánchez, çevrimiçi istismarla mücadele etmek ve çocukları korumak amacıyla 16 yaş altındakilerin sosyal medyaya erişiminin yasaklanmasını da içeren yeni önlemler açıkladı.
Aynı gün Fransız polisi Elon Musk’a ait X’in ofislerine baskın düzenledi ve savcılar genişleyen soruşturma kapsamında milyarderden ifade vermesini istedi.
Kasım ayında Sánchez, İspanya Parlamentosu’nun Facebook ve Instagram kullanıcılarına ilişkin olası gizlilik ihlalleri nedeniyle Meta hakkında soruşturma açacağını söylemişti.
Geçen yıl Birleşik Krallık merkezli Internet Watch Foundation, 2024’te yalnızca 13 olan sayı ile karşılaştırıldığında 3.440 adet yapay zekâ üretimi çocuk cinsel istismar videosunu işaretlemişti.
Reuters
Haber Galerisi
