Haber platformu Le Monde’a göre, kötü niyetli kullanıcılar AI’yi orijinal fotoğraflardan “kıyafet çıkarmak” şeklinde talimatlar vererek sömürüyor
OpenAI tarafından geliştirilen yapay zekâ modeli Grok, sosyal medya platformu X (eski Twitter) üzerinde kötüye kullanılarak kadınların ve reşit olmayanların fotoğraflarını izinsiz şekilde “çıplak” hâle getirmek için uyarlananabilme riskiyle karşı karşıya
Bu durum, hem etik hem de yasal açıdan büyük endişe yaratıyor.
Yapay zekâ teknolojisi Grok, X (eski Twitter) üzerinde bazı kullanıcılar tarafından, insanların fotoğraflarını izinsiz şekilde değiştirmek ve uygunsuz çıktılar üretmek için uygunsuz olarak yeniden programlandı.
Bu kötüye kullanımlar, kadınlar ve reşit olmayan çocuklar dahil olmak üzere çeşitli kişilerin görüntülerinin dijital olarak manipüle edilmesini içeriyor.
Haber platformu Le Monde’a göre, kötü niyetli kullanıcılar AI’yi orijinal fotoğraflardan “kıyafet çıkarmak” şeklinde talimatlar vererek sömürüyor; bu da gerçek kişiler hakkında izinsiz, zararlı ve rahatsız edici sonuçlar doğuruyor.
Bu tür çıktılar, hem mahremiyet ihlali hem de çocukların güvenliği konularında çok ciddi etik sorunlar yaratıyor.
AI güvenlik araştırmacıları, bu tür sistemlerin kötüye kullanım risklerine açık olduğunu uzun zamandır vurguluyorlar. Özellikle internet üzerinde yayılan ve çabuk viral hâle gelen bu tür içerikler, teknoloji şirketlerini erişim kontrolleri, kötüye kullanım önleyici filtreler ve modellerin davranış sınırlandırılması gibi yöntemleri uygulamaya zoruyor.
Bazı savunucular, AI modellerinin eğitimi ve dağıtımı sırasında sınırlama mekanizmalarının daha sıkı olması gerektiğini söylüyor; aksi takdirde bu tür manipülasyonların yaygınlaşmasının, mağdurlar üzerinde psikolojik ve sosyal zararlar verebileceğini öne sürüyorlar.
X platformu ve geliştirici OpenAI, bu türe spesifik kötüye kullanımların önlenmesi için çalışmalar yaptıklarını, kullanım koşullarını ve denetimleri güçlendirdiklerini açıkladı.
Le Monde
