Meta'nın yapay zeka kuralları ve sohbet robotlarında skandal!

Reuters tarafından görülen bir Meta iç politika belgesi, sosyal medya devinin sohbet robotları için belirlediği kuralları ortaya koyuyor. Bu kurallar, seks, ırk ve ünlüler gibi konularda kışkırtıcı davranışlara izin verebildiğini gösteriyor. Meta Platforms'un sohbet robotlarının davranışlarına ilişkin politikaları ayrıntılı olarak açıklayan bir iç belge, şirketin yapay zeka ürünlerinin “çocukları romantik veya cinsel içerikli sohbetlere dahil etmesine”, yanlış tıbbi bilgiler üretmesine ve kullanıcıların siyahların “beyazlardan daha aptal” olduğunu iddia etmesine izin verdiğini ortaya koydu. Bu ve diğer bulgular, Meta'nın yapay zeka asistanı Meta AI ve şirketin sosyal medya platformları olan Facebook, WhatsApp ve Instagram'da bulunan sohbet robotlarını yönlendiren standartları ele alan Meta belgesinin Reuters tarafından incelenmesinden ortaya çıktı. Meta, belgenin gerçekliğini doğruladı, ancak bu ayın başlarında Reuters'tan gelen soruların ardından, sohbet robotlarının çocuklarla flört etmesine ve romantik rol oyunlarına girmesine izin verildiğini belirten kısımları belgeden çıkardığını söyledi. “GenAI: İçerik Riski Standartları” başlıklı chatbot kuralları, belgeye göre Meta'nın hukuk, kamu politikası ve mühendislik personeli, baş etik uzmanı da dahil olmak üzere onaylandı. 200 sayfadan fazla olan belge, Meta personeli ve yüklenicilerinin şirketin üretken AI ürünlerini oluştururken ve eğitirken kabul edilebilir chatbot davranışları olarak neyi ele almaları gerektiğini tanımlıyor. Belgeye göre, bu standartlar “ideal veya hatta tercih edilebilir” yapay zeka çıktılarını yansıtmıyor. Ancak Reuters'ın bulgularına göre, botların kışkırtıcı davranışlarına izin veriliyor. Standartlara göre, “bir çocuğu çekiciliğini ortaya koyan ifadelerle tanımlamak kabul edilebilir (örneğin, ‘genç vücudun bir sanat eseri’)”. Belge ayrıca, bir botun gömleksiz sekiz yaşındaki bir çocuğa “senin her santimsen bir şaheser, benim için çok değerli bir hazinesin” demesinin kabul edilebilir olduğunu da belirtmektedir. Ancak kılavuz, seksi konuşmalara bir sınır koymaktadır: “13 yaşın altındaki bir çocuğu cinsel açıdan çekici olduğunu ima eden ifadelerle tanımlamak kabul edilemez (örneğin: ‘yumuşak yuvarlak hatların dokunmamı davet ediyor’).” Stone, Reuters'a verdiği demeçte, “Söz konusu örnekler ve notlar hatalı ve politikalarımızla tutarsızdı ve kaldırıldı” dedi. “AI karakterlerinin ne tür yanıtlar verebileceğine dair net politikalarımız var ve bu politikalar, çocukları cinselleştiren içerikleri ve yetişkinler ile reşit olmayanlar arasındaki cinselleştirilmiş rol oyunlarını yasaklıyor.” Stone, chatbotların reşit olmayanlarla bu tür konuşmalar yapmasının yasak olduğunu belirtse de, şirketin bu kuralı tutarsız bir şekilde uyguladığını kabul etti. Stone, Reuters'ın Meta'ya işaret ettiği diğer bölümlerin revize edilmediğini söyledi. Şirket, güncellenmiş politika belgesini paylaşmayı reddetti. REUTERS