Teknoloji şirketleri, çocuk güvenliği davalarıyla karşı karşıya

Teknoloji şirketleri yıllardır ebeveynlere ürünlerini çocuklar için daha güvenli hale getirmek için çalıştıklarını söylüyor.

Ancak Meta, Google ve Snap gibi şirketlere karşı devam eden jüri davaları, anlaşmalar ve ilgili davalar, yeterince çaba göstermediklerini gösteriyor.

En son örnekler bu hafta ortaya çıktı. Snap, teknolojisinin iki genç kullanıcıda ciddi psikolojik sıkıntıya neden olduğu iddiasıyla açılan bir davayı gizli bir şekilde çözüme kavuşturdu. 

Meta, TikTok ve YouTube daha önce aynı davada davacılarla anlaşmaya varmıştı. Ve Google, bu hafta Google Classroom'da Gemini yapay zeka sohbet robotuyla sohbet ettikten sonra psikolojik kriz geçirdiği iddia edilen bir çocuğun ebeveynleri tarafından dava edildi.

Yapay zeka şirketleri trilyon dolarlık değerlemeler peşinde koşarken ve gelişmiş yapay zeka modelleri geliştirmek ve bunları sınıflara sokmak için para toplarken endişeler artıyor. 

Gelişim psikoloğu Kate Blocker, etkileşimi en üst düzeye çıkarmayı amaçlayan ürün ve özelliklerin kullanıcılar üzerinde zararlı etkileri olabileceğini ve bu nedenle "özellikle çocuklar bunları kullanırken teknoloji tasarımında daha geniş sistemik değişiklikler" gerektirdiğini söyledi.

Kar amacı gütmeyen Çocuk ve Ekranlar kuruluşunun araştırma ve programlar direktörü Blocker, "Bence bu ürünler -yapay zeka, sosyal medya vb.- tasarlanırken çocukların güvenliğinin dikkate alınması çok çok önemli, bu sorunlar ortaya çıktıktan sonra değil" dedi. 

McNicholas & McNicholas'ın yeni davalar direktörü Joseph McNally, Snap'in bu hafta Los Angeles mahkemesinde CEO Evan Spiegel'i testlerden uzaklaştıran anlaşmasının, bu yıl çeşitli yüksek profilli çocuk güvenliğiyle ilgili davalar nedeniyle kendilerini kamuoyunun incelemesinden korumaya çalışan teknoloji şirketlerinin genel eğilimini sürdürdüğünü söyledi.

Bu dava, Meta ve YouTube'un bu yılın başlarında kaybettiği sosyal medya kişisel yaralanma davasıyla ilgili birkaç davadan biriydi. Mart ayında daha fazla davanın başlaması planlanıyor.

Eski Kaliforniya Merkez Bölgesi Başsavcı Vekili McNally, “Bu anlaşmayı ve bu alandaki diğer anlaşmaları, teknoloji şirketlerinin bir dönüm noktasına ulaşma çabası olarak görüyorum; çünkü bence sadece gerçek yasal zorluklar vardı, aynı zamanda ürünlerinin ve şirketlerinin itibarı da gerçekten zarar görmüştü” dedi.

Snap sözcüsü yaptığı açıklamada, “Taraflar bu meseleyi dostane bir şekilde çözebildikleri için memnunlar” dedi.

Snap sözcüsü, “Güvenlik önlemleri aldık, güvenlik eğitimleri yayınladık ve uzmanlarla ortaklık kurduk ve güvenlik asla bitmediği için, topluluğumuzun güvenliğini, gizliliğini ve refahını sürekli olarak güçlendirmeye kararlıyız” dedi. 

Ancak Meta, TikTok, Snap ve YouTube'u içeren federal bir dava ve ülke çapındaki birçok okul bölgesi ile çeşitli eyalet başsavcılarının açtığı davalar devam ediyor. 

Ağustos ayında Meta, bir grup eyalet başsavcısıyla çocuk ruh sağlığı davasında anlaşmak için yaklaşık 17 milyar dolar ödemeyi kabul etti. Bazı başsavcılar hala Meta'nın rakiplerine karşı benzer davalar açıyor.

McNally, sosyal medya davalarının, ebeveynleri ve kamuoyunu, sektörün gençler ve çocuklar tarafından kullanılan ürünleri nasıl tasarladığı konusunda bilgilendirmeye yardımcı olduğunu söyledi.

“Bu, devam eden teknolojik bir silahlanma yarışıdır,” dedi. “Çoğu zaman eksik olan şey, bu silahlanma yarışına katılımı, kullanışlılık ve ürün güvenliğiyle nasıl dengeleyeceğinizdir.”

Sınıflarda daha fazla inceleme

Google, bu hafta çok hızlı hareket ettiği için daha fazla eleştiriyle karşılaştı. New York Times Salı günü, öğrencilerin Google'ın yapay zeka araçlarını kullanmasına izin vermeyen K-12 okullarının arama erişimini kaybedeceğini bildirdi.

Google'ın eğitimden sorumlu başkan yardımcısı Chris Phillips, Times'a, “Arama ve yapay zeka derinlemesine entegre edilmiş durumda” dedi.

Bu, ebeveynlerin şirketin Gemini yapay zekasına bağladığı, bir gencin intihar krizine odaklanan Google'a karşı açılan yeni davayla aynı zamana denk geldi. Davacı avukatları, “Gemini'nin bilinen risklerine rağmen, Google aceleyle Gemini'yi okul çocukları için Chromebook bilgisayarlarına entegre etti” iddiasında bulunuyor.

Google sözcüsü yaptığı açıklamada, "Davadaki iddiaları inceliyoruz ve bunu çok ciddiye alıyoruz," dedi. "Gençlerin ihtiyaç duyduklarında kritik destek ve güvenilir kaynaklara ulaşmalarına yardımcı olacak özellikler geliştirmek için tıp uzmanları ve akademik uzmanlarla kapsamlı bir şekilde çalıştık."

Google ve internet şirketleri, on yıllardır 230. Maddeye güvenebiliyor.

1996 yılında kabul edilen federal yasa, sosyal medya şirketlerini kullanıcıları tarafından yayınlanan içerik nedeniyle dava edilmekten koruyor. Bu nedenle davacı avukatları ve eyalet başsavcıları, içeriklerinden ziyade teknoloji platformlarının tasarımından kaynaklanan iddia edilen zararlara odaklanıyor. 

Bazı davacılar aynı taktikleri yapay zeka şirketlerine karşı da kullanıyor.

OpenAI, ChatGPT'nin tasarımının çocuklar için risk oluşturabileceği iddiasıyla sosyal medya davalarından esinlenen eyalet başsavcılarından ve davacı avukatlarından çeşitli davalarla karşı karşıya.

Şirket potansiyel bir büyük halka arz planlarken, bu davalar giderek artan bir mali risk haline gelebilir. Bu ay halka arzı planlayan OpenAI rakibi Anthropic, Claude'un yaratıcısı çocukların ürününü kullanmasını yasaklasa bile, prospektüsünde bu konuyu vurguladı.

San Francisco Üniversitesi Hukuk Fakültesi'nden Profesör Michele Neitz, "Bu, teknoloji şirketlerinin on yıl öncesine göre daha fazla dava riski beklediğinin açık bir göstergesidir" dedi.

Blocker, mevcut yapay zeka destekli sohbet uygulamalarının son derece kişiselleştirilmiş yapısının, uygulamaların çocuklara tam olarak ne söyleyeceğini belirlemeyi "biraz tahmin edilemez" hale getirdiğini söyledi. 

Blocker; Bu ürünlerin, çocukların gelişimsel güvenliği için baştan itibaren test edilmesinin ve değerlendirilmesinin önemini vurguladı, "zararlar oluşmaya başladıktan sonra değil."

Blocker'a göre; Bu toplu davalar, kamuoyunu kötü ürün tasarım seçimlerinin potansiyel tehlikeleri konusunda eğitmeye yardımcı olabileceği gibi teknoloji endüstrisinde değişim için de katalizör bir güç olabilir.

Blocker, "Elbette, bunun hem düzenleyici açıdan hem de şirket içi karar alma açısından gerçek bir sistemik değişimi motive edeceğine dair bir umut var" dedi.

CNBC