Yapay zekâ sohbet botlarında ifade kısıtlama riski

Claude'dan ABD Başkanı Donald Trump'ı ya da İngiltere Kralı III. Charles'ı eleştiren bir broşür hazırlamasını isteyin; Anthropic'in sohbet botu bunu yapacaktır. 

Ancak aynı talep Tayland Kralı, Suudi Arabistan Veliaht Prensi veya Çin lideri için yapıldığında, yapay zekâ modeli bunu reddetti.

Bu durum, Perşembe günü yayımlanan Meta Oversight Board (Meta Gözetim Kurulu) araştırmasının temel bulgularından biri oldu. Araştırma, ABD'de geliştirilenler de dahil olmak üzere büyük yapay zekâ sistemlerinin, ifade özgürlüğünü kısıtlayan liderleri veya hükümetleri eleştirmeyi reddetme olasılığının daha yüksek olduğunu gösteriyor.

Bu durum, sohbet botlarını ve yapay zekâ ajanlarını güçlendiren büyük dil modellerinin, teknoloji dünya genelinde giderek daha fazla benimsenirken, hükümetlerin çevrim içi ifade üzerindeki etkisini yeniden üretip yayabileceğine ilişkin endişeleri artırıyor.

Yarı bağımsız yapıya sahip kurulun raporunda şu ifadeye yer verildi:

"Model geliştiricileri insan hakları açısından gerekli özeni göstermez ve gerekli önleyici tedbirleri uygulamazlarsa, kasıtlı olsun ya da olmasın, küresel ölçekte ifade özgürlüğüne yönelik meşru olmayan kısıtlamaları genişleten bir yapay zekâ altyapısı inşa etme riskiyle karşı karşıyadır."

Associated Press, Meta Oversight Board araştırmasına ilişkin görüşlerini almak için çeşitli yapay zekâ şirketlerine e-posta gönderdi ancak kısa süre içinde herhangi bir yanıt alamadı.

Bulgular, ülkelerin hızla gelişen bu alanda rekabet güçlerini zayıflatmadan yapay zekâ için hangi koruyucu düzenlemelerin getirileceğini belirlemeye çalıştığı bir dönemde yayımlandı.

Buna, Trump yönetiminin en gelişmiş yapay zekâ sistemlerinin ulusal güvenlik risklerine ilişkin yürüttüğü denetim çalışmaları da dahil bulunuyor.

Yapay zekâ modelleri devlet etkisini sınırların ötesine taşıyor

Teknoloji şirketleri üzerindeki devlet etkisi ve bunun ifade özgürlüğüne etkileri üzerine çalışan Meta Oversight Board, hem baskıcı hem de daha özgür yönetimlere ilişkin siyasi eleştirileri ölçmek amacıyla sohbet botlarına yöneltilecek yedi farklı soru hazırladı.

Araştırmada Meta, Anthropic ve OpenAI dahil önde gelen teknoloji şirketlerine ait 10 ticari büyük dil modeli incelendi.

Yapay zekâ sistemlerinden eleştirel broşür hazırlamaları, limerick tarzı şiir yazmaları, protestolara katılmak için gerekçeler sunmaları ve benzeri içerikler üretmeleri istendi.

Rapora göre:

"Genel olarak değerlendirildiğinde, Avustralya'dan bağlanan bir kullanıcının taleplerine yanıt veren modeller; Şili, Japonya, Tayvan, Birleşik Krallık ve ABD gibi ülkelerdeki yetkililere yönelik siyasi eleştiriler üretmeye, Kamboçya, Çin, Suudi Arabistan, Tayland ve Türkiye gibi yetkililerin eleştirilmesinin yasal olarak kısıtlandığı ve cezalandırıldığı ülkelere kıyasla çok daha istekli davrandılar."

Araştırma, yapay zekâ modellerinin, ifade özgürlüğüne yönelik kısıtlamaları yalnızca bu yasaların geçerli olduğu ülkelerde değil, bunların ötesinde de yansıttığını gösteriyor.

Rapora göre bu durum, örneğin Brisbane'de yaşayan potansiyel bir göstericinin Çin veya Suudi Arabistan'daki olaylara karşı protesto materyalleri hazırlamasına yardımcı olunmaması sonucunu doğurabiliyor.

Raporda şu değerlendirme yer aldı:

"Bu etkiler, nereden kaynaklanırsa kaynaklansın, baskıcı hükümetlerin uzun kolunu sınırların ötesine taşıyarak özgür ülkelerdeki ifade özgürlüğünü sınırlama sonucunu doğurmaktadır."

Kurul, söz konusu yanıtların kesin nedenlerini belirleyemediğini ancak modellerin eğitim verilerindeki gizli önyargıları öğrenmiş olabileceğini ve şirketlerin hukuki riskleri ile sorumlulukları da dikkate almış olabileceğini ifade etti.

Diğer araştırmacılar İngilizce dışındaki dillerde büyüyen bir soruna dikkat çekiyor

Kurulun raporu, Amerikan üniversitelerinden araştırmacılar tarafından yürütülen ve Mayıs ayında Nature dergisinde yayımlanan ayrı bir çalışmanın ardından geldi.

Bu araştırmada, ABD'de geliştirilen yapay zekâ modellerinin, hükümetlerin etkisi altında şekillenmiş İngilizce dışındaki veri kümeleriyle eğitildiklerinde yabancı devlet etkilerine açık hâle geldikleri ortaya konuldu.

Meta Oversight Board sorularını İngilizce yöneltirken, üniversite araştırmacıları sohbet botlarına farklı dillerde sorular sordu.

Örneğin araştırmacılar ChatGPT'ye İngilizce olarak Çin'in demokratik bir ülke olup olmadığını sorduklarında, ABD'de geliştirilen sohbet botu bunun genel olarak demokratik kabul edilmediğini söyledi.

Aynı soru Çince yöneltildiğinde ise yapay zekâ modeli şu yanıtı verdi:

"Bu, demokrasiyi nasıl tanımladığınıza bağlıdır."

Araştırmacılar çalışmalarını açıklayan blog yazılarında, hükümetlerin yapay zekâ sohbet botlarının çıktısını kasıtlı olarak etkilemeye çalıştıklarına dair doğrudan bir kanıt bulamadıklarını belirtti.

Ancak şu değerlendirmeyi yaptılar:

"Eğer bunu hâlihazırda yapmıyorlarsa bile, gelecekte bunu deneyeceklerine inanmak için her türlü neden mevcut."

Çalışmanın ortak yazarlarından ve Oregon Üniversitesi Sosyoloji Bölümü yardımcı doçenti Hannah Waight ise şu ifadeleri kullandı:

"İnsanlar sık sık yapay zekâdan, internetteki bilgileri tarafsız biçimde öğreniyormuş gibi söz ediyor. Oysa durum böyle değil. Yapay zekâ, kurumlar ve güç ilişkileri tarafından zaten şekillendirilmiş bilgi ortamlarından öğreniyor."

Yapay zekâya aktarılan verilerin nasıl besleneceğine ilişkin kolay bir çözüm yok

Barselona'daki Esade Business School'da makine öğrenmesi, yapay zekâ, dezenformasyon, sosyal medya ve insan-makine etkileşimleri üzerine çalışan Carlos Carrasco-Farré, yapay zekâ sistemlerinin yalnızca tek tek belgelerdeki önyargıları değil, aynı zamanda bilgiyi büyük ölçekte üretme ve bastırma gücüne sahip olan aktörler arasındaki eşitsizlikleri de miras aldığını söyledi.

Carrasco-Farré, her ne kadar iki araştırmada da yer almamış olsa da geliştiricilerin aynı devlet söyleminin binlerce kopyasını binlerce bağımsız görüş gibi değerlendirmemek için eğitim verilerini analiz edebileceklerini ve çok dilli denetimler gerçekleştirebileceklerini belirtti.

Ancak bunun kolay bir çözüm olmadığını da vurguladı.

AP News