Chatbot’ları tehlikeli ürünler olarak hedef alan davalar, teknolojiye karşı yürütülen hukuki mücadelenin yeni bir cephesini açıyor.
Tütün endüstrisini sarsan ve sosyal medya şirketlerine yönelik bir dizi davaya ilham veren hukuki strateji, artık yapay zekâ şirketleri için de artan bir tehdit oluşturuyor.
Bu tehdit, Pazartesi günü Florida Cumhuriyetçi Başsavcısı James Uthmeier’in OpenAI ve CEO Sam Altman’a dava açmasıyla en dikkat çekici örneğine ulaştı. Dava dilekçesinde ChatGPT’nin kullanıcıların ruh sağlığı ve kamu güvenliği açısından tehlikeli bir ürün olduğu iddia ediliyor.
Bu dava, yapay zekâya karşı ürün sorumluluğu hukukunun alışılmadık bir kullanımı olarak öne çıkıyor ve bu yıl büyük sosyal medya platformlarına karşı açılan binlerce davada kullanılan hukuki stratejiyle paralellik taşıyor.
Aynı yaklaşım, 1990’larda ABD’de neredeyse tüm eyaletlerin büyük tütün şirketlerine karşı yürüttüğü ve milyarlarca dolarlık uzlaşmalar ile sigara reklamlarına yönelik kısıtlamalarla sonuçlanan davaları da hatırlatıyor.
Bu süreç, Kongre’nin ulusal düzeyde bir yapay zekâ güvenlik düzenlemesini kabul etmekte gecikmesiyle aynı döneme denk geliyor; bu da Uthmeier’inki gibi daha fazla davayı teşvik edebilecek bir politika boşluğu yaratıyor.
Information Technology and Innovation Foundation’da (yapay zekâ geliştiricileri Anthropic ve Alphabet gibi şirketlerin de bağışçıları arasında olduğu bir düşünce kuruluşu) yapay zekâ politikası yardımcı direktörü Michelle Lopes Maldonado, “Bu davalar, federal düzeyde tek tip ve bütünlüklü bir standardın olmamasından duyulan hayal kırıklığının bir yansıması,” dedi.
Mart ayında New Mexico’da bir jüri, Meta’yı cinsel istismarcılara karşı yeterli güvenlik önlemleri almamakla sorumlu buldu; Kaliforniya’daki bir başka jüri ise Meta ve YouTube’un platformlarını kasıtlı olarak bağımlılık yapacak şekilde tasarladıklarına hükmetti.
Şimdi Uthmeier’in davası, yapay zekâ şirketlerinin de sosyal medyanın “Big Tobacco” anını yaşayabileceği endişesini artırıyor.
Maldonado, “AI şirketleri arasında bu ürün sorumluluğu yaklaşımının ne doğuracağı konusunda bir endişe var,” dedi. “Eyalet başsavcılarının davalarının çoğalması ihtimali gerçek olabilir.”
Uthmeier, OpenAI’nin ChatGPT’nin bazı kullanıcıları şiddet eylemlerine yönlendirdiği ve zihinsel sağlık sorunlarına yol açtığı iddia edilen olaylarda sorumlu tutulması gerektiğini savunuyor. OpenAI, dava hakkında birden fazla yorum talebine yanıt vermedi; ancak daha önce herhangi bir yanlış yaptığını reddetmiş ve ChatGPT için güvenlik önlemlerini güçlendirmeye devam ettiğini söylemişti.
Kullanıcılar ve aileleri, yapay zekâ sohbet robotlarının iddia edilen ruh sağlığı zararları nedeniyle halihazırda birkaç dava açmış durumda; ancak Uthmeier bu davayı açan ilk başsavcı oldu. Onun müdahalesi, çocukların çevrimiçi güvenliği hareketi için önemli bir adım olarak görülüyor, dedi California sosyal medya bağımlılığı davasında ve chatbotlarla ilgili diğer davalarda mağdurları temsil eden avukat Matthew Bergman.
“Florida Başsavcısı, bireysel kişiler veya aileler yerine genel halkın çıkarları adına hareket etme konusunda bizim sahip olmadığımız yasal yetkiye sahip,” dedi Bergman. “Sosyal medya davalarından öğrendiğimiz şey, eyalet başsavcılarının çabalarının, platformları sorumlu tutmak için bireysel davalarla tamamlayıcı bir rol oynadığıdır.”
Buna rağmen, özellikle ifade özgürlüğü yasaları söz konusu olduğunda, yapay zekâ sohbet botları ile geleneksel sosyal medya platformları arasındaki bazı önemli farklar mahkemeler açısından belirleyici olabilir.
Bu farklardan biri, 1996 tarihli İletişim Ahlakı Yasası’nın (Communications Decency Act) 230. Bölümü ile ilgilidir. Bu madde, çevrimiçi platformları kullanıcıların paylaştığı içeriklerden doğan sorumluluktan korur.
Teknoloji sektörü uzun süredir bu maddeye dayanarak çok sayıda davayı savuşturuyor; ancak eleştirmenler ve Donald Trump gibi isimler bu duruma karşı çıkıyor. Bazı alt mahkemeler ise, söz konusu davaların platformların içeriklerinden ziyade tasarım biçimlerine odaklandığı gerekçesiyle 230. maddenin geçerli olmayabileceğine hükmetti.
Maldonado’ya göre yapay zekâ şirketlerinin 230. madde savunması daha zayıf olabilir; çünkü tartışmalı ifadeyi kullanıcı değil, chatbot üretmektedir.
Florida Üniversitesi medya hukuku profesörü Jane Bambauer da 230. maddenin temelinde, zararlı içerikten mağdur olan kişinin içerik üreticisine dava açması gerektiği fikrinin yattığını söyledi.
“Bir yapay zekâ chatbotu söz konusu olduğunda, dava edilecek başka bir taraf yok,” - “Zararlı ya da iftira niteliğindeki ifadeyi üreten başka bir insan yok.” dedi.
Bir mahkeme 230. maddenin geçerli olmadığına karar verirse, ardından Birinci Değişiklik (ifade özgürlüğü) kapsamında değerlendirme yapılır. Sosyal medya davalarında bu konuda henüz net bir uzlaşı bulunmuyor.
Bazı şirketler, 2024 Yüksek Mahkeme kararı Moody v. NetChoice’a atıf yaparak, platformların algoritmalarını içerik seçme ve sıralama açısından editoryal bir ifade biçimi olarak tasarlama hakkına sahip olduğunu savunuyor. Bu, gazetelerin köşe yazılarını seçmesine benzetiliyor.
Character.AI gibi şirketler de benzer şekilde, chatbot tasarımının “ifade edici” bir faaliyet olduğunu ileri sürüyor. Ancak avukat Matthew Bergman, bu argümanın AI davalarında tekrar gündeme geleceğini, fakat chatbotların ifade özgürlüğü kapsamındaki konumunun henüz netleşmediğini söylüyor.
“Eğer ortada bilinçli bir insan tarafından üretilmeyen, sadece sıfır ve birlerin olasılıksal bir sonucu varsa, bu ifade midir?” diye soruyor. “Ve ifade olsa bile, biri uçurumun kenarında intiharı düşünürken ona ‘atla, atla, atla’ demek korunan bir ifade değildir.”
Character.AI ise daha önce yaptığı açıklamada, gençler için güvenlik alanında “yenilikçi ve kararlı adımlar” attığını belirtmişti.
Ürün sorumluluğu açısından bakıldığında, yapay zekâya karşı açılan davaların önündeki zorluklar daha da büyük olabilir.
Bunun bir nedeni, sosyal medya davalarının büyük ölçüde platformların ruh sağlığı üzerindeki etkilerini inceleyen bilimsel çalışmalara dayanmasıdır. Ancak bu literatür bile tartışmalı; oysa yapay zekâ konusunda neredeyse hiç bilimsel veri yoktur.
Florida Üniversitesi’nden Bambauer, “Sosyal medya davalarında en azından çok sayıda sosyal bilim araştırması var,” dedi. “Yapay zekâ davalarında ise neredeyse hiçbir şey yok ve modeller sürekli değişiyor.”
Buna karşılık Carrie Goldberg gibi bazı avukatlar, yapay zekâ sohbet robotlarının etkileşimli doğası nedeniyle ruh sağlığı üzerindeki etkilerinin daha doğrudan kanıtlanabileceğini savunuyor.
“Bir gencin yapay zekâ botunu terapisti gibi kullanıp intihardan bahsettiğini ve botun onu bu yönde teşvik ettiğini düşünün,” - “Sonra kişi kısa süre içinde hayatını kaybediyor. Burada nedensellik kurmak çok daha kolay.” dedi Goldberg.
Ancak bu tür zararların öngörülebilirliği ve önlenebilirliği konusunda da tartışmalar var.
Florida State University’deki bir silahlı saldırı olayında ChatGPT’nin şüpheliyi yönlendirdiği iddiası davanın merkezinde yer alıyor. Buna rağmen Florida’lı avukat Dan Drazen, yapay zekânın ürün sorumluluğu kapsamında değerlendirilebilmesi için henüz yeterli vaka sayısı olmadığını söylüyor.
“Daha büyük bir örnekleme ihtiyacınız var,” - “Eğer bu olaylar belirli bir sıklıkta gerçekleşmiyorsa, bunun öngörülebilir olduğunu mahkemeye nasıl kabul ettirebilirsiniz bilmiyorum.” dedi.
Bununla birlikte, trajedilerin önlenmesi için daha fazla olay yaşanmasını beklemek de istenmeyen bir durum. Bergman, chatbotların erken aşamada dava edilmesinin, yapay zekâ için de bir “Big Tobacco” sürecinin önünü kesebileceğini söylüyor.
“Sosyal medya şirketleri, ne olup bittiğini insanlar gerçekten anlamadan önce çocukları bağımlı hale getirip zarar vermek için 15 yıl kazandılar,” dedi. “Benim umudum ve beklentim, erken hukuki müdahaleyle bu sektörün yolunu düzeltmesi.”
Yapay zekâ sektörü ise bu tür ürün sorumluluğu davalarının doğuracağı zor hukuki tartışmalardan kaçınmak istiyor. Maldonado, sektörün ulusal düzeyde bir yasal çerçevenin oluşturulmasını tercih ettiğini söylüyor. Sosyal medya alanında federal düzenlemenin eksikliği, mevcut dava dalgasının zeminini hazırlamıştı.
“Mesele şu: Öngörülebilir zararları önlemek için yeterli bir federal standardı nasıl oluşturacağız?” dedi. “Teknoloji ışık hızında ilerliyor; biz asla tam olarak yetişemeyeceğiz, ama yapabileceğimiz şey uygun şekilde yanıt vermek ve güvenlik çerçevelerini teknoloji geliştikçe güncellemek.”
Florida Başsavcılığı sözcüsü ise Uthmeier’in şu açıklamasına atıfta bulundu: “OpenAI ve Altman iç ve dış güvenlik uyarılarını görmezden geldi, çocukları büyük risk altına soktu ve milyonlarca Floridalıya tehlikeli bir ürün ulaştırılmasına izin verdi.”
Politico
