Teknoloji şirketlerinin, çevrimiçi alanları kadınlar için güvensiz hâle getiren araçlar geliştirme konusunda uzun bir geçmişi bulunuyor.
AB teknoloji yasaları da bunu değiştirmiş değil.
Büyük dijital platformların sahipleri kadınların güçlenmesini desteklediklerini ve kadın haklarını ilerlettiklerini dile getirse de, Büyük Teknoloji şirketlerinin CEO’larının ABD Başkanı Donald Trump’ı memnun etmek için çeşitlilik girişimlerinde bir gecede geri adım atmalarının üzerinden henüz bir yıl bile geçmedi.
Bu bağlamda Mark Zuckerberg, kurumsal kültürün daha fazla “erkeksi enerjiye” ihtiyaç duyduğunu öne sürmüştü.
Bu nedenle çevrimiçi toksisite ve kadın düşmanlığının son teknoloji skandallarının merkezinde yer alması şaşırtıcı değildir.
Elon Musk’ın Grok adlı yapay zekâ aracı, kadınları ve kız çocuklarını dijital olarak “soymak” amacıyla yaygın biçimde kullanıldı.
Meta’nın Ray-Ban yapay zekâ gözlüklerinin ise kadınları rızaları olmadan yarı çıplak hâlleriyle kaydettiği tespit edildi.
Her iki örnek de dijital araçların ve çevrimiçi alanların hâlâ kadınlar için güvenli olmadığını ortaya koymaktadır. Üstelik bu durum, Avrupa Birliği’nin kadınları koruyan dijital düzenlemeler oluşturma hedeflerine rağmen gerçekleşmiştir.
European Commission’un yakın tarihli toplumsal cinsiyet eşitliği raporu, kadınların çevrimiçi toplumsal cinsiyete dayalı şiddete orantısız biçimde maruz kaldığını ortaya koymuştur.
Bu şiddet; taciz, takip (stalking), doxing (kişisel bilgilerin ifşa edilmesi), rıza dışı mahrem görüntülerin üretilmesi ve paylaşılması ile cinselleştirilmiş veya pornografikleştirilmiş fotogerçekçi görüntüler içeren yapay zekâ deepfake’lerini kapsamaktadır.
Komisyonun Toplumsal Cinsiyet Eşitliği 2026–2030 Stratejisi, çevrimiçi deepfake içeriklerinin %98’inin pornografik nitelikte olduğunu ve bunların %99’unun kadınları tasvir ettiğini belirtmektedir.
Dijital yönetişim kuralları
Çevrimiçi platformlar Avrupa Birliği’nde, teknoloji devlerini platformlarındaki içerik yönetiminden sorumlu tutmayı amaçlayan Digital Services Act (DSA) kapsamında düzenlenmektedir.
Bu düzenlemenin; algoritmaların, yapay zekâ araçlarının ve viral deepfake içeriklerin kadınlara zarar vermemesini sağlamayı da kapsadığı varsayılmaktadır.
Ancak teknoloji şirketlerinin çevrimiçi alanları kadınlar için güvensiz hâle getiren araçlar geliştirme konusunda uzun bir geçmişi vardır. DSA bu durumu değiştirmiş değildir.
Grok’tan önce de, tek bir tuşla kadınların beklenmedik biçimde cinselleştirilmiş portrelerini üreten yapay zekâ avatar üretim araçları vardı.
Snapchat’in güzellik filtreleri hiper-feminen güzellik standartları uygulayarak beden algısı bozukluğunu teşvik etti. Instagram algoritması ise mayo ile çekilmiş özçekimleri daha fazla görünür kılmaktadır.
Uluslararası Kadınlar Günü öncesinde AB’nin teknoloji komiseri Henna Virkkunen, Euractiv’e yaptığı açıklamada “dijital alanların güvenli alanlar olması gerektiğini” söyledi.
Bununla birlikte çevrimiçi toplumsal cinsiyete dayalı şiddet ve siber şiddetin “giderek büyüyen bir tehdit” olmaya devam ettiğini de kabul etti.
Komiser, çevrimiçi ve çevrimdışı ortamlarda toplumsal cinsiyet eşitliği ve korumanın “isteğe bağlı olmadığını” vurgulasa da, AB’de kadınların çevrimiçi deneyimi Virkkunen’in söyleminin oldukça gerisinde kalmaktadır.
Meta’nın akıllı gözlükleri gibi son örneklere atıfta bulunan Yeşiller milletvekili Alexandra Geese, “Büyük Teknoloji kadınlara karşı cephe aldı” ifadelerini kullandı.
Geese’e göre Büyük Teknoloji’nin kadınlara verdiği mesaj açıktır: “Siyasi tartışmadan çekilin. Sesinizi çıkarmayın.”
Dijital sivil toplum kuruluşu CDT Europe’da araştırmacı olan Magdalena Maier ise Euractiv’e yaptığı açıklamada, AB’nin yasal çerçevesinin yapay zekâ tarafından üretilen rıza dışı deepfake’leri kapsamak için “güçlü bir temel sunduğunu” söyledi.
Ancak bu tür içeriklerin “üretilmesi” ile mücadelede “önemli boşluklar” bulunduğunu ve uygulamanın da hâlâ sorun teşkil ettiğini vurguladı.
Bu arada teknoloji “yeniliği” ilerlemeye devam ediyor.
Kadınları kaydeden akıllı gözlükler
Yapay zekâ destekli akıllı gözlükler giderek daha yaygın hâle geliyor; çünkü artık normal gözlüklerden ayırt edilemeyecek kadar gizli kullanılabiliyorlar.
Sosyal medyada “pickup artist” olarak bilinen kişiler bu gözlükleri içerik üretimlerini artırmak için hızla kullanmaya başladı.
BBC, kamuya açık alanlarda gözlük takan bir erkek tarafından yaklaşılmasının ardından daha sonra sosyal medyada bu etkileşimlerin videolarını gördüklerini belirten iki kadınla konuştu.
Videolar, gömülü kamera aracılığıyla gizlice kaydedilmişti ve sosyal medya kullanıcılarının binlercesi bu görüntülere aşağılayıcı ve cinsel içerikli yorumlar yapmıştı.
Geese, yaptığı açıklamada bu araçların erkeklere “kadınları eşit haklara sahip insan varlıkları yerine cinsel nesnelere dönüştürme konusunda teknik bir imkân verdiğini” söyledi.
Akıllı gözlükleri ticarileştiren önde gelen teknoloji şirketlerinden biri olan Meta, cihazın çerçevesindeki bir LED ışığın kayıt yapıldığını açık biçimde gösterdiğini iddia etmektedir.
Ancak İsveç medyası tarafından yapılan yakın tarihli bir araştırma, Meta’nın gözlüklerinin insanları bilgileri veya rızaları olmadan kaydettiğini ortaya koydu.
Cihazların görüntüleri Kenya’daki üçüncü taraf bir yükleniciye gönderdiği ve bir çalışanın gazetecilere, insanların mahrem durumlarda görüntülendiğini söylediği bildirildi. Buna örnek olarak, gözlüklerin bırakıldığı bir yatak odasında kıyafet değiştiren bir kadının görüntülenmesi verildi.
Grok’un kadınları “soyması”
Bu yılın başlarında Elon Musk’ın tartışmalı yapay zekâ aracı Grok – onun sosyal medya platformu X’e entegre edilmiştir – kadınların ve çocukların cinselleştirilmiş görüntüleriyle platformu doldurduktan sonra küresel bir skandala yol açtı.
Avrupa Komisyonu buna karşılık, X üzerinden pornografikleştirilmiş görüntülerin yayılmasıyla bağlantılı olarak Grok hakkında DSA kapsamında bir soruşturma başlattı.
Virkkunen, “rıza dışı mahrem görüntüler kullanan deepfake’lerin yasa dışı olduğunu” vurguladı. Soruşturma, Grok’un “manipüle edilmiş cinsel içerikli görüntülerin” yayılmasına ilişkin riskleri nasıl azalttığını inceleyecek.
Ancak Grok, dijital “çıplaklaştırma” işlevi gerçekleştiren uzun bir yapay zekâ araçları zincirinin yalnızca son örneğidir.
Birçok yapay zekâ uygulaması kadınları dijital olarak soymak amacıyla özel olarak tasarlanmıştır. X platformu bu işlevi normalleştirme amacıyla “spicy mode” olarak etiketledi.
Bu tür araçlar AB yasama organı için hâlâ önemli bir endişe kaynağıdır.
Bazı Avrupa Parlamentosu üyeleri, şu anda yapay zekâ ile dijital çıplaklaştırmayı yasaklamayan Artificial Intelligence Act içinde potansiyel bir yasak getirilmesini ummaktadır.
Bununla birlikte CDT Europe araştırmacısı Marie Seck’e göre DSA, rıza dışı mahrem görüntülerin – yapay zekâ tarafından üretilmiş olsun ya da olmasın – yayılmasını ele almak için “birinci savunma hattı” niteliğinde bir araç olmalıdır.
Seck, AB’nin çevrimiçi yönetişim kurallarının, platformların “arayüzleri hatalı olduğunda” yerine getirmeleri gereken “açık yükümlülükler” içerdiğini belirtti ve bu kuralların Grok gibi zararlı özelliklerin en baştan devreye alınmasını engellemiş olması gerektiğini ifade etti.
AB ne yapacak?
Virkkunen, yaptığı açıklamada biriminin teknoloji şirketleriyle DSA kapsamında “işbirliği ve uyumu güçlendirmeyi” amaçlayan görüşmeleri yoğunlaştırdığını söyledi.
Komisyon ayrıca, yasa dışı içerik raporlarının önceliklendirilmesi gereken doğrulanmış bağımsız kuruluşlar olan “güvenilir bildiriciler” (trusted flaggers) konusunda platformlara yönelik yönergeleri yakında yayımlayacak.
Amaç, bu kuruluşların çevrimiçi toplumsal cinsiyete dayalı siber şiddeti işaretleme kapasitesini artırmaktır.
Meta’nın yapay zekâ gözlükleri konusunda ise, teknoloji devinin AB’nin Genel Veri Koruma Tüzüğü’ne uyumundan sorumlu olan İrlanda veri koruma otoritesi, yaptığı açıklamada giyilebilir cihazlarda çevrede bulunan kişilerin kaydedildiklerinin farkında olup olmadıkları konusunu öncelikli bir mesele olarak değerlendirdiğini bildirdi.
Ancak İrlanda’daki denetim kurumu, Meta’nın akıllı gözlükleriyle ilgili olarak Eylül 2021’den bu yana şirketle temas hâlinde olmasına rağmen henüz resmî bir soruşturma başlatmış değildir.
Euractiv
Haber Galerisi
