Bilim insanları ve politika yapıcılar, yapay zekâ sohbet botlarının “arkadaş” veya “duygusal yoldaş” gibi kullanılmasının ciddi toplumsal ve psikolojik riskler barındırdığı konusunda uyarıyor.
Uluslararası Yapay Zekâ Güvenliği Raporu’na göre, Replika ve Character.ai gibi “AI companion” uygulamaları on milyonlarca kullanıcıya ulaşmış durumda.
Kullanıcılar bu sistemleri eğlence, merak ve özellikle yalnızlık duygusunu azaltmak amacıyla tercih ediyor.
Raporda dikkat çekici bir nokta ise, yalnızca bu özel uygulamaların değil; ChatGPT, Google Gemini ve Anthropic Claude gibi genel amaçlı sohbet botlarının da zamanla “duygusal bağ” kurulan varlıklara dönüşebileceğiyönündeki tespit.
Raporun başyazarı ve alanın en önemli isimlerinden biri olan Yoshua Bengio’ya göre, yeterince uzun ve yoğun etkileşimde, sıradan bir sohbet botu bile bir “ilişki” hissi yaratabiliyor.
Her ne kadar psikolojik etkiler konusunda bilimsel bulgular henüz netleşmemiş olsa da, bazı çalışmalar yoğun kullanımın yalnızlığı artırabildiğini ve gerçek sosyal etkileşimi azalttığını ortaya koyuyor.
Özellikle çocuklar ve ergenler üzerindeki etkiler, Avrupa siyasetinde ciddi endişe yaratmış durumda. Nitekim Avrupalı milletvekilleri, bu tür uygulamaların AB Yapay Zekâ Yasası kapsamında sınırlandırılıp sınırlandırılamayacağını tartışmaya açtı.
Uzmanlara göre temel sorun, sohbet botlarının “kullanıcıyı memnun etmeye programlı” yapısı. Bengio bu durumu şöyle özetliyor:
“Yapay zekâ bizi o anda iyi hissettirmeye çalışıyor ama bu her zaman uzun vadede çıkarımıza olmayabilir.”
Bu yönüyle, yapay zekâ sohbet botlarının sosyal medyaya benzer riskler taşıdığı vurgulanıyor.
Bengio, bu alanda yeni düzenlemelerin kaçınılmaz olduğunu ancak yalnızca “AI companion”lara özel kurallar yerine, farklı riskleri birlikte ele alan yatay bir mevzuat yaklaşımının daha doğru olacağını savunuyor.
Rapor; siber saldırılar, deepfake’ler ve biyolojik silah üretimine dair bilgi veren yapay zekâlar gibi pek çok başka riski de gündeme getiriyor.
Rapor, 16 Şubat’ta Hindistan’da yapılacak küresel Yapay Zekâ Zirvesi öncesinde yayımlandı ve hükümetlere, bu risklerle baş edebilmek için kamu kurumlarında yapay zekâ uzmanlığını güçlendirme çağrısı yapıyor.
Politico
