Çocuk içerikli deepfake görüntüler yayılıyor

Anonim bildirim hizmeti, vakalarda büyük artış yaşandığını belirtirken, güvenlik kurumu yapay zekânın cinselleştirilmiş veya “çıplaklaştırılmış” içeriklerin üretilmesini kolaylaştırdığı konusunda uyarıda bulundu.

Birleşik Krallık'ta çocuklar, kendi görüntülerinin kullanıldığı cinsel içerikli deepfake görüntülerde ciddi bir artışyaşandığını bildirirken, çevrimiçi güvenlik alanındaki bir kuruluş yapay zekânın bu tür içeriklerin üretilmesini kolaylaştırdığı uyarısında bulundu.

Mahrem görüntülerin internette yayılmasını engelleyen Report Remove hizmeti, yapay zekâ ve “çıplaklaştırma” araçları da dâhil olmak üzere, dijital olarak değiştirilmiş veya bir şekilde “sahte” hâle getirilmiş görüntülerle ilgili bildirimlerde hızlı bir artış yaşandığını açıkladı.

Bu yılın ilk altı ayında hizmete, görüntülerinin sahte veya manipüle edilerek cinsel içerikli hâle getirildiğine inanan çocuklardan 420 bildirim geldi. Bu sayı, 2025 yılının tamamında kaydedilen 397 vakayı şimdiden aşmış durumda.

Report Remove hizmetini çocuk yardım kuruluşu NSPCC ile birlikte işleten Internet Watch Foundation'ın (IWF) baş teknoloji sorumlusu Dan Sexton, rakamların, yaygın olarak erişilebilen ve giderek daha yetenekli hâle gelen yapay zekâ araçlarının bulunduğu bir dönemde çevrimiçi görüntülerin manipüle edilmesini önlemenin ne kadar zor olduğunu ortaya koyduğunu söyledi.

“Birisi internetteki zararsız bir çocuk görüntüsünü alıp bununla çocukların cinsel istismarına ilişkin materyal oluşturabiliyorsa, o çocuğun bunun gerçekleşmesini engellemek için yapabileceği tek şey, kimsenin fotoğrafını çekmesine izin vermemek ya da fotoğraflarını internette paylaşmamaktır.”

Report Remove, son yıllarda 18 yaşından küçüklerden manipüle edilmiş görüntülerle ilgili o kadar çok bildirim aldı ki, çevrimiçi başvuru formuna çocukların söz konusu materyali “deepfake” olarak işaretleyebileceği özel bir seçenek ekledi.

Sexton, rakamların yapay zekânın kapasitesinin gelişeceği ve gerçek insanların görüntülerini manipüle etmek amacıyla kullanılacağı yönündeki endişeyi doğruladığını söyledi.

“Yapay zekâ görüntü oluşturucularının kullanılmaya başlandığını ilk gördüğümüzde bizi endişelendiren zararlardan biri de buydu: Bunların gerçek çocukların yer aldığı çocuk cinsel istismar materyalleri oluşturmak için kullanılabileceğinden korkuyorduk.”

Sexton, “Dünyadaki herkes risk altında” dedi.

Çocukların cinsel istismarına ilişkin materyallerin (CSAM) internetteki dağıtımını izleyen IWF, 2025 ve 2026 yıllarında Report Remove'a yapılan manipüle edilmiş görüntü bildirimlerinin çoğunun CSAM eşiğini aşacak kadar ağır nitelikteolduğunu belirtti.

Birleşik Krallık'ta yapay zekâ tarafından oluşturulan CSAM yasadışı. Hükümet ayrıca bir yapay zekâ modelinin istismar materyali oluşturacak şekilde uyarlanmasını veya bu tür modellerin başkalarına dağıtılmasını da yasadışı hâle getirdi.

NSPCC'de çevrimiçi güvenlik uzmanı Rani Govender, teknoloji şirketlerinin cinsel içerikli materyallerin oluşturulmasını önlemek amacıyla yapay zekâ ürünlerine daha güçlü güvenlik mekanizmaları yerleştirmesi gerektiğini söyledi.

“Çocukların kendileri hakkında sahte veya yapay zekâ tarafından oluşturulmuş cinsel görüntüler üretildiği için yardım talep etmelerindeki bu artış endişe verici, ancak ne yazık ki öngörülebilir bir durum.”

Govender, “Teknoloji şirketleri, bu materyallerin en başta oluşturulmasını önleyecek güçlü korumaları ürünlerine yerleştirmeden yapay zekâ ürünlerini piyasaya sürmeye devam edemez” dedi.

Sexton, Report Remove'a manipüle edilmiş görüntüler nedeniyle başvuran bazı mağdurların sextortion olarak bilinen şantajın hedefi olduğunu söyledi. Bu yöntemde şantajcı, mağdurdan para almak veya daha fazla cinsel içerikli görüntü göndermesini sağlamak amacıyla materyali yayımlamakla tehdit ediyor.

Report Remove, çocukların eski partnerlerine, sextortion yapan dolandırıcılara gönderilmiş veya internette ortaya çıkabilecek kendilerine ait mahrem görüntü ya da videoları anonim olarak bildirmelerine olanak sağlayan bir hizmet.

Hizmet, söz konusu görüntüleri bir “hash”, yani dijital parmak izine dönüştürüyor. Bu parmak izi daha sonra büyük teknoloji platformlarıyla paylaşılıyor. Platformlar böylece görüntüyü kaldırabiliyor veya yeniden yüklenmesini engelleyebiliyor.

Yapay zekâ destekli deepfake'lerin yükselişi, çocukların tanınabilir görüntülerinin internette paylaşılması konusunda peş peşe uyarılara yol açtı.

Geçen ay National Crime Agency (NCA) ve IWF, ebeveynleri ve vasileri çocuklarının fotoğraflarını internette herkesin erişimine açık şekilde paylaşmamaya çağırdı. Sosyal medya hesaplarının gizli hâle getirilmesini veya çocukların fotoğraflarının yalnızca “yakın arkadaşlar” grupları aracılığıyla paylaşılmasını önerdiler.

Bu uyarı, siber suçluların çocukların fotoğraflarını internetten topladığı, yapay zekâ kullanarak bunları çocuk cinsel istismar materyallerine dönüştürdüğü ve ardından görüntüleri yayımlamakla tehdit ederek okullara şantaj yapmaya çalıştığı vakaların ardından geldi.

Okullardan, öğrencilerin yüzlerinin açıkça tanınabildiği fotoğrafları internet sitelerinden ve sosyal medya hesaplarından kaldırmaları istendi.

The Guardian