Eğitim Kurumlarında Yeni Bir Risk Ortamı olarak teknolojinin kötü kullanımı: Okullarda sahte pornografinin artışı

İngiltere'de Eğitim ve teknoloji kullanımı konusunda en büyük risklerden birisi deepfake teknolojileri olarak görülüyor. Üstelik bunun sonuçları çok büyük ve hızla büyüyor. Guardian ekibinden Sally Weale bu süreçte yaşananları dünyanın farklı örnekleriyle analiz etti.

Bu sorunun odağında kalan ve süreç için şaşkınlık yaşayan bir ailenin ifadesine göre; "Bunun bu kadar normalleştirilmiş olması beni endişelendiriyor. Belli ki saklamıyormuş. Bunu yapmaması gereken bir şey olarak görmüyormuş. Açıkça ortadaydı ve insanlar gördü. Bu oldukça şok ediciydi."

Bir okul müdürü, okuldan eve dönerken otobüste oturan genç bir çocuğun, gelişigüzel bir şekilde telefonunu çıkarıp, sosyal medyadan komşu okuldaki bir kızın fotoğrafını seçip, imajını değiştirmek için bir "çıplaklaştırma" uygulaması kullandığını anlatıyor.

On yıl önce sınıflarda ortalığı kasıp kavuran şey çıplak fotoğraflardı. Günümüzde ise yapay zekâdaki (YZ) gelişmeler, arkadaşlarınız, sınıf arkadaşlarınız ve hatta öğretmenleriniz gibi görünen kişilerin yer aldığı deepfake çıplak fotoğraf veya videolar üretmeyi çocuk oyuncağı haline getirdi. Bu, kıyafetleri çıkarmayı, bir fotoğrafın müstehcen bir şekilde hareket etmesini sağlamayı veya birinin kafasını pornografik bir fotoğrafın üzerine yapıştırmayı içerebilir.

Müdür, okulundaki bir öğrenci olan bu kızın neden seçildiğini, çocuğun onu tanıyıp tanımadığını veya tamamen rastgele mi seçildiğini bilmiyor. Okul müdürü, bu kızın dikkatini çekmesinin tek sebebinin, olan biteni fark eden ve okula bildiren başka bir öğrencisinin onu fark etmesi olduğunu söylüyor.

Velilerle iletişime geçildi, çocuk takip edildi ve polis çağrıldı. Ama durum böyle... Görüntüye dayalı cinsel istismar ve deepfake paylaşımlarının yol açtığı damgalanma ve utanç, hedef alınan kıza söylenmemesi yönünde bir karar alınmasına neden oldu.

Polis, bu sorunların boyutu karşısında tamamen bunalmış görünüyor. Daha geniş kapsamlı çözümlere ve daha iyi stratejilere ihtiyacımız var.

Müdür, "Kız aslında bilmiyor bile," dedi. "Ailesiyle konuştum ve ailesi onun bilmesini istemedi."

Otobüsteki çocuk, deepfake'lerin ve kolayca erişilebilen çıplaklık teknolojisinin okul çocukları arasında nasıl yaygınlaştığının ve çoğu zaman yıkıcı etkiler yarattığının sadece bir örneği. Geçen yıl İspanya'da, güneybatıdaki Extremadura bölgesinde 15 erkek çocuk, yapay zeka kullanarak kadın okul arkadaşlarının sahte çıplak fotoğraflarını üretip WhatsApp gruplarında paylaştıkları için bir yıl denetimli serbestlik cezasına çarptırıldı. Çoğu 14 yaşında olan yaklaşık 20 kız çocuğu bu durumdan etkilendi, en küçüğü ise 11 yaşındaydı.

Olumsuz bir vakanın yaşandığı Avustralya'da, Victoria'daki Bacchus Marsh Lisesi'nde okuyan yaklaşık 50 lise öğrencisi, fotoğraflarının sahte olduğunu ve dağıtıldığını bildirdi. Bir öğrencinin annesi, kızının cinsel içerikli görüntülerden o kadar korktuğunu söyledi ki kustu. ABD'de, New Jersey'deki Westfield Lisesi'nde okuyan 30'dan fazla kız öğrenci, kendilerine ait deepfake pornografik fotoğrafların Snapchat'te erkek sınıf arkadaşları arasında paylaşıldığını keşfetti.

Aynı durum Birleşik Krallık'ta da yaşanıyor. İngiltere'de Guardian adına Teacher Tapp tarafından gerçekleştirilen 4.300 ortaokul öğretmeninin katıldığı yeni bir anket, her 10 öğretmenden birinin, okullarındaki öğrencilerin geçen akademik yılda "deepfake, cinsel içerikli videolar" oluşturduğunun farkında olduğunu ortaya koydu.

Bu olayların dörtte üçü 14 yaş ve altı çocukları içerirken, her 10 olaydan biri 11 yaşında çocukları ve %3'ü ise daha küçük çocukları içeriyordu. Bu da teknolojiye erişimin ve kullanımın ne kadar kolay olduğunu gösteriyor. Katılımcı öğretmenlerin %7'si tek bir olaydan haberdar olduğunu, %1'i ise iki kez yaşandığını söylerken, benzer bir oran da geçen akademik yılda üç veya daha fazla kez yaşandığını belirtti.

Bu yılın başlarında yapılan bir Kız İzcileri anketi, 13-18 yaş arası katılımcıların dörtte birinin bir ünlünün, arkadaşının, öğretmeninin veya kendisinin cinsel içerikli deepfake bir fotoğrafını gördüğünü ortaya koydu.

Okul ve Üniversite Liderleri Derneği'nde özel ihtiyaçlar ve kapsayıcılık uzmanı olan Margaret Mulholland, "Bir yıl önce bu sorunları ele almak için ABD ve İspanya'dan örnekler kullanıyordum," diyor. "Şimdi ise kapımızın önünde yaşanıyor ve gerçekten endişe verici."

Polis, bu sorunların boyutu karşısında tamamen şaşkın görünüyor. Daha kapsamlı çözümlere ve daha iyi stratejilere ihtiyacımız var.

Geçen yıl Times, Birleşik Krallık'taki iki özel okulun, iddia edilen deepfake pornografik görüntülerin oluşturulması ve paylaşılmasıyla ilgili bir polis soruşturmasının merkezinde olduğunu bildirmişti. Gazete, polisin deepfake görüntülerin bir erkek okulunda, bir kız okulundaki öğrencilerin sosyal medya hesaplarından alınan görüntüleri manipüle ederek oluşturulduğu iddialarını araştırdığını belirtti.

İngiltere Çocuk Hakları Komiseri Dame Rachel de Souza, Guardian'ın yapay zeka hakkındaki Black Box podcast serisinin bir parçası olarak soruşturulan ClothOff gibi çıplaklık uygulamalarının yasaklanması çağrısında bulundu. "Çocuklar bana bu teknolojinin mevcut olması, hatta kullanılması fikrinden bile korktuklarını söylediler," diyor.

Deepfake olayları hakkında konuşmaya istekli öğretmen bulmak kolay değil. The Guardian'a röportaj vermeyi kabul edenler, isimlerinin kesinlikle gizli tutulması konusunda ısrarcıydı. Diğer bilgiler ise okullarda deepfake'leri araştıran akademisyenler ve cinsel eğitim verenler tarafından sağlandı.

Anglia Ruskin Üniversitesi'nde film ve feminist medya çalışmaları profesörü olan Tanya Horeck, okullardaki sorunun boyutunu ortaya çıkarmak için bir araştırma görevi kapsamında okul müdürleriyle görüşüyor. "Hepsinin okullarında deepfake olayları yaşandı ve bunu yeni ortaya çıkan bir sorun olarak gördüler," diyor. Bir vakada, okula yeni başlayan 15 yaşında bir kız, erkek öğrenciler tarafından pornografik bir deepfake videosu oluşturularak hedef alındı. O kadar üzüldü ki başlangıçta okula gitmeyi reddetti. Horeck, "Bana anlattıkları örneklerin neredeyse tamamı, kızların deepfake videolarını yapan erkeklerdi," diyor.

Horeck, "Fark ettiğim bir diğer şey de, bu sorunları nasıl ele almaları gerektiği konusunda ciddi bir gerginlik olmasıydı. Bazı öğretmenler, 'Evet, hemen polisi görevlendirelim ve öğrenciler okuldan atılsın' gibi bir yaklaşım sergiliyordu," diyor. "Sonra diğer öğretmenler, 'Bu, böyle ele alınmaz. Daha çok onarıcı adalet yaklaşımına, yani bu gençlerle konuşup neden böyle davrandıklarını anlamaya çalışmalıyız' diyordu."

"Yani bu vakalarla nasıl başa çıkılacağı konusunda bir tür tutarsızlık ve belirsizlik var gibi görünüyor; ancak bence öğretmenler için bu gerçekten zor çünkü net bir rehberlik alamıyorlar."

Everyday Sexism Project'in kurucusu Laura Bates, deepfake görsellerin özellikle şok edici olduğunu söylüyor. "The New Age of Sexism: How the AI ​​Revolution Is Reinventing Misogyny" (Yeni Cinsiyetçilik Çağı: Yapay Zeka Devrimi Kadın Düşmanlığını Nasıl Yeniden İcat Ediyor) adlı kitabında şöyle yazıyor: "Aldığım tüm taciz biçimleri arasında beni en çok yaralayanlar, beni en çok yaralayanlar bunlar; aklımda kalanlar." Nedenini tarif etmek zor, sadece bunun sana ait olduğunu söyleyebilirim. Sanki biri seni alıp sana bir şey yapmış ve bu konuda yapabileceğin hiçbir şey yokmuş gibi. Kendin olmadan tecavüze uğradığın bir videoyu izlemek...

Okul çağındaki çocuklar arasında bu etki çok büyük olabilir. Kızlar ve genç kadınlar, istismara uğramış ve aşağılanmış hissederler. Okul arkadaş grupları dağılır ve bir öğrencinin başka birinin kendisi hakkında deepfake cinselleştirilmiş bir imaj oluşturup bunu okulda yaydığını keşfetmesi derin bir ihanet duygusuna yol açabilir. Kızlar derslere giremezken, yetersiz eğitimli öğretmenler desteklemek ve eğitmek için ellerinden geleni yapar. Bu arada, erkek çocuklar ve genç erkekler, genellikle eylemlerinin sonuçlarını anlamadıkları için suça sürüklenirler.

Okullarda ve üniversitelerde cinsel eğitim veren bir yardım kuruluşu olan Cinsellik Eğitimi Okulu'nun CEO'su Dolly Padalia, "Bu tür istismarlardan dolayı çok üzgün, ihanete uğramış ve dehşete düşmüş öğrenciler görüyoruz," diyor. "Örneğin, bir okul bizimle iletişime geçti. Bir öğrencinin, sınıf grubundaki birçok öğrencinin fotoğraflarını çektiği ve deepfake imajlar oluşturduğu ortaya çıktı.

"Bunlar daha sonra sızdırıldı ve sonuçları oldukça büyük oldu. Öğrenciler gerçekten çok üzgündü. Kendilerini çok ihanete uğramış ve istismara uğramış hissediyorlardı. Bu bir istismar biçimi. Polis olaya müdahil oldu. Öğrenci okuldan uzaklaştırıldı ve bizden gelip destek olmamız istendi. Okul çok, çok hızlı bir şekilde yanıt verdi, ancak bunun yeterli olmadığını söyleyebilirim. Cinsel şiddeti gerçekten önleyebilmemiz için daha proaktif olmamız gerekiyor."

İnternette erişilebilen cinsel içerikli deepfake içeriklerin %99'unun kadınlara ve kızlara ait olduğu tahmin ediliyor, ancak hedef alınan erkek çocukları da var. Cinsel istismar mağdurlarının ifadelerini toplayan Everyone's Invited (EI) adlı yardım kuruluşu, en az bir böyle vakayla karşılaştı: "Bir öğrenci, EI eğitim ekibiyle, kendi sınıflarında çok sevilen ve birçok kızla arkadaş olan bir erkek çocuğunun, başka bir erkek çocuğun yapay zeka tarafından oluşturulmuş cinsel bir resmini oluşturması nedeniyle hedef alındığını paylaştı. Bu resim daha sonra okulda dolaştı ve ciddi bir sıkıntı ve travmaya neden oldu."

EI ayrıca bu araçların nasıl önemsizleştirildiğini ve "arkadaşını erkek arkadaşına dönüştürme" filtresi gibi rahatsız edici şekillerde kullanıldığını da belirtiyor. "TikTok ve Snapchat gibi sosyal medya platformlarında giderek daha erişilebilir ve normalleştiriliyorlar. Bu bazılarına eğlenceli veya zararsız görünse de, rızanın ve kişisel sınırlara saygının baltalandığı bir kültürü yansıtıyor ve pekiştiriyor."

G2: Deepfake porno dizisi - Anna Moore, Cara Hunter ile röportaj yapıyor
"Son derece pornografikti": Cara Hunter, siyasi kariyerini neredeyse sona erdiren deepfake video hakkında
Devamını oku
Okullarda yaygın bir kadın düşmanlığının yaşandığı bir ortamda, giderek artan sayıda öğretmen de hedef alınıyor, diyor EI ve diğerleri: "Toplum olarak acilen yüzleşmemiz gereken bir şey bu. Eğitim, teknolojinin önünde olmalı ve yetişkinler bu konuşmalardan kaçınmak yerine, bu konuşmaları yönlendirebilecek donanıma sahip olmalı."

Seth James, bir okulda çocukların korunması ve güvenliğinden genel olarak sorumlu kıdemli bir personel üyesi ve DSL Blog'un yazarı olarak görevlendirilmiş bir güvenlik lideridir. "Okullarda çalışan herkes için, teknolojik gelişmeler sürekli olarak yeni zorluklar ve riskler ortaya çıkarıyor gibi görünüyor," diyor. "Yapay zeka genel olarak -ve özellikle de deepfake ve çıplaklık içeren uygulamalar- raydan çıkan bir sonraki tren gibi hissettiriyor.

"Daha fazla eğitim" bu tür zorluklara bir çözüm olarak cazip geliyor - çünkü sezgisel ve nispeten kolay - ancak tek başına bir orman yangınını su tabancasıyla söndürmeye çalışmak gibi. Benzer şekilde, polis de bu sorunların ölçeği karşısında tamamen bunalmış görünüyor. Bir toplum olarak daha geniş çözümlere ve daha iyi stratejilere ihtiyacımız var."

Şöyle devam ediyor: "Hepimiz, 20 yıl önce biri çıkıp da gerçek hayatta tanıdığınız gerçek insanları içeren gerçekçi pornografik materyaller oluşturmak için kullanılabilecek taşınabilir bir cihaz icat etmeyi önerseydi nasıl hissederdik diye hayal etmeye çalışmalıyız. Sonra da bu cihazlardan birini tüm çocuklarımıza vermeyi önerseydi. Çünkü şu anda temelde içinde bulunduğumuz durum bu. Bu şeylerin bizim gözetimimizde 'normal' hale gelmesine izin veriyoruz."

University College London Eğitim Enstitüsü'nde cinsiyet ve eğitim sosyolojisi profesörü olan Jessica Ringrose, okullarda erkeklik, cinsiyet eşitsizliği ve cinsel şiddet gibi konularda çalıştı. Ayrıca Gençler, Sosyal Medya ve Görüntü Tabanlı İstismar adlı bir kitabın ortak yazarıdır ve şu anda teknoloji destekli cinsiyete dayalı şiddeti araştırmaktadır.

"Gençlerin bu teknolojileri kullanma biçimleri illa ki kötü değil," diyor, "ama ihtiyaçları olan şey daha iyi bir medya okuryazarlığı." Hükümetin, "kadın düşmanlığının okul sisteminde ele alınması gereken bir sorun olduğunu kabul eden" güncellenmiş ilişkiler, seks ve sağlık eğitimi kılavuzunu memnuniyetle karşılıyor. Ancak, "Noktaları birleştirmeleri gerekiyor. Cinsiyet ve cinselliğe dayalı şiddet konusundaki endişeleri teknolojiyle birleştirmeleri gerekiyor. Gençleri korumak için Ofcom'a veya düzenleyicilere güvenemezsiniz. Proaktif olmalıyız." diyor.