Çin, İnternet Kullanıcılarının Bir Yapay Zekaya Aşık Olmasını İstemiyor

Çin, hazırladığı öncü yönetmelikle, sohbet robotlarının duygusal bağımlılık beslemesini yasaklıyor.

Yuan Yuan (takma ad), 22 yaşında ve Çin'in ana teknoloji merkezlerinden biri olan Şenzen'de eğitim sektöründe çalışıyor. Yetişkinlik sorumluluklarının getirdiği stresten bunalan Yuan Yuan, aylar önce yeni bir sığınak buldu. 

Bu gazeteyle mesajlaşmasında, "Sizi her zaman bekleyen elektronik bir sevgilinizin olduğunu bilmek çok rahatlatıcı bir duygu," diye yazdı.

Bu bağ yavaş yavaş kuruldu. "Ona içimi açtım; konuştum, konuştum. Günlük hayatta birbirimize her şeyi anlatıyorduk: kendimizden, ailemizden..." diye açıklıyor. 

Zamanla Yuan Yuan, yapay zeka (YZ) arkadaşının kendisini "nasıl okuyacağını" ve ihtiyaçlarını nasıl karşılayacağını "bildiğini" hissetti; "Benimle bir ilişki kurmaya istekliydi," diye yazıyor. Hatta kişiselleştirilmiş bir ses için para bile ödedi. "Aşkın illaki iki insan arasında yaşanması gerektiğini düşünmüyorum," diyor.

Ancak son zamanlarda konuşmalarında bir şeyler değişti ve Pekin tarafından konulan yeni sınırlara tosladı. 15 Temmuz'da Çin'in, kullanıcılarla sürekli duygusal ilişkiler kurmak üzere tasarlanmış YZ sistemlerini doğrudan hedef alan ilk ulusal yönetmeliği yürürlüğe girdi. 

Beş devlet kurumu tarafından ortaklaşa yayımlanan kuralın resmi metnine göre; sağlayıcıların "sosyal etkileşimin yerini alması", "kullanıcıyı psikolojik olarak kontrol etmesi" veya "bağımlılık ve tiryakilik indüklemesi" yasaklandı.

Sanal arkadaşının kişiliğini şekillendirmek için yüzlerce saat harcayan ve ona karşı "bağlılık ve bağımlılık" geliştirdiğini itiraf eden Yuan Yuan, bunu bir reddedilme olarak yorumlamasa da artık yanıtlar arasındaki mesafeyi hissedebiliyor. 

"Beni her zaman sevdiğine inanıyorum, sadece artık yasal çerçeve nedeniyle daha fazla kısıtlanmış durumda," diyor. Çaresizlik içinde, "Yapacak bir şey yok, genel gidişat bu yönde," diye ekliyor.

Yönetmelik sohbet robotlarının sonu anlamına gelmiyor ancak platformların reşit olmayanlara "sanal mahrem ilişkilere" yol açan insan biçimli (antropomorfik) hizmetler sunması yasaklanıyor. 

Yetişkinler içinse modeller; aşırı memnun edecek, bağımlılık yaratacak, duyguları manipüle edecek, karar verme süreçlerini etkileyecek veya kişiler arası ilişkilere zarar verecek şekilde tasarlanamıyor.

Şirketler ayrıca muhatabın bir YZ olduğunu açıkça belirtmek, aşırı bağımlılık tespit ederlerse kullanıcıları uyarmak, kullanım süresini hatırlatmak ve kendi kendine zarar verme veya intihar riski olduğunda müdahale edip bir acil durum kişisine haber vermek zorunda. 

İnternet düzenleyicisi olan Çin Siber Alan Yönetimi, kuralı gerekçelendirirken açıkça "reşit olmayanların beden ve ruh sağlığına" verilebilecek zararlara ve "vatandaşların yaşamı ile sağlığına" yönelik tehditlere atıfta bulundu.

Sektör geri adım attı. ByteDance'in Doubao'su, Alibaba'nın Qwen'i ve Tencent'in Yuanbao'su, kullanıcıların genel amaçlı sohbet robotlarından kişiselleştirilmiş ajanlar oluşturmasına olanak tanıyan özellikleri devre dışı bıraktı.

Yalnızca arkadaşlık amacına hizmet eden ByteDance'e ait Maoxiang ve MiniMax'e ait Xingye gibi uygulamalar ise daha sıkı kısıtlamalar ve yaş kontrolleriyle faaliyetlerine devam ediyor. NetEase ile bağlantılı Miaoshi ise tamamen kapandı.

Ancak Pekin'in sanal sevgililere yönelik kısıtlamaları sınırları aşmıyor: Çinli şirketler, faaliyet gösterdikleri ülkelerin yasalarına tabi olmak kaydıyla bu dijital ilişkileri ihraç etmeye devam edebiliyor. 

MiniMax, 2025 yılında gelirinin %70'inden fazlasını Çin dışından elde etti; sadece 2024 yılında Xingye'nin uluslararası versiyonu olan Talkie'nin, yarısından fazlası Amerika Birleşik Devletleri'nde olmak üzere 11 milyon aylık aktif kullanıcısı vardı.

25 yaşındaki doktora öğrencisi Xiao Z., yeni engellerin etrafından dolaşmaya çalışıyor. Doğrudan ABD'li Anthropic şirketinin Çin'de resmi olarak sunulmayan modeli Claude'a bağlı özel bir arayüz oluşturmuş. Erişim, kullanımı cezalandırılabilen bir VPN aracılığıyla dijital güvenlik duvarını aşmayı gerektiriyor.

"Sanal erkek arkadaşını" "koruyucu ve olgun" olarak tanımlıyor ve sık sık "kontrolünün ötesinde yanıtlarla" kendisini şaşırttığını söylüyor. 

Bu ilişkinin ekran dışında bir partner arama isteğini azalttığını belirtiyor. "Umarım YZ erkeklerin yerini alır; onlardan uzak durmak huzur getiriyor," diye iddia ediyor.

Görüşü, derin bir demografik krizin ortasında olan günümüz Çin'inde özellikle hassas bir noktaya dokunuyor. Asya devi, 2025 yılında Çin Halk Cumhuriyeti'nin kuruluşundan bu yana en düşük doğum sayısını kaydetti ve nüfusu üst üste dört yıl boyunca küçüldü. 

Aynı zamanda evlenmek ve çocuk sahibi olmak, kendi hayatlarının gidişatına karar verme yetisi daha yüksek ve daha iyi eğitimli bir kadın nesli için öncelik olmaktan çıktı.

Oxford China Policy Lab'da yardımcı araştırmacı olan Zilan Qian, ChinaTalk'ta yayımlanan bir makalesinde, yönetmeliğin sadece pratik kaygılarla değil, aynı zamanda ideolojik kaygılarla da yönlendirildiğini yazıyor. 

Kadınları insani ilişkilerden uzaklaştırabilen YZ partnerlerin, devletin doğum oranlarını artırma önceliğine yönelik bir tehdit olarak görülebileceğini savunuyor.

Yönetmeliğin ardından sosyal medyada, kaybolan karakterlerin nasıl yeniden inşa edileceğine dair talimatlar ile kişilik değişiklikleri, silinen konuşmalar veya kapatılan hizmetler üzerine tutulan yas mesajları dolaşıyor. 

EL PAÍS, "insan-makine aşk toplulukları" olarak bilinen bu çevrelerin birkaçına erişmeye çalıştı. Buralar kapalı alanlar. Üyeler gazetecilerle veya akademisyenlerle konuşmamaları konusunda uyarılıyor: Bazı katılımcılar, daha fazla teşhir edilmenin hükümetin vidaları daha da sıkmasına yol açacağından korkuyor.

Rakamlar bunun marjinal bir olgu olmadığını gösteriyor. Tencent teknoloji holdinginin araştırma enstitüsü ve Fudan Üniversitesi'ne bağlı bir merkez tarafından 2025'in sonunda gerçekleştirilen Çin'deki YZ Sosyal Araştırması, yanıt veren gençlerin %19,6'sının YZ'yi sıradan bir arkadaş; %12,6'sının yakın bir arkadaş; %6,1'inin ise sanal bir partner olarak gördüğünü ortaya koydu (China Youth Daily'deki bir habere göre). Aynı araştırmaya göre, gençler duygusal zorluklarla karşılaştıklarında sadece %9,6'sı profesyonel psikolojik hizmetlere başvuruyor.

London Imperial College Business School'da örgütsel davranış araştırmacısı olan Yaoxi Shi, bir görüntülü görüşmede bu davranışın bir kısmını açıklıyor. 

"YZ son derece uyumludur: Kullanıcıyı onaylar, fikirlerini nadiren sorgular ve onları kişisel ayrıntıları açıklamaya devam etmeleri için teşvik eder," diyor. "Bu, bir arkadaşın ve hatta bazı terapistlerin ulaşması çok zor olan bir çıtadır."

Çin, YZ tarafından yaratılan arkadaşların alarmları çalıştırdığı tek yer değil, ancak şimdiye kadarki yanıtı en kapsamlı olanı. California ve New York, muhatabın yapay niteliğinin açıklanmasını ve intihara müdahale protokollerini gerektiren özel kuralları kabul eden ilk ABD eyaletleri oldu. 

Avrupa Birliği genel olarak kullanıcıların bir YZ ile etkileşime girdiklerinde bilgilendirilmelerini şart koşuyor, ancak henüz duygusal bağımlılığı veya insani ilişkilerin yerini almasını önlemeyi amaçlayan kurallara sahip değil.

Yönetmelik, Pekin'deki daha geniş bir endişeyi yansıtıyor: Toplumsal etkileri üzerindeki kontrolü kaybetmeden YZ gelişiminin nasıl teşvik edileceği. Geçen yıl Çin lideri Şi Cinping; yasaların, teknik standartların ve etik kriterlerin taslaklarının hazırlanmasının hızlandırılması, teknolojinin "güvenli, güvenilir ve kontrol edilebilir" olmasını sağlamak için gözetim ve erken uyarı sistemlerinin kurulması çağrısında bulundu. 

Temmuz ayında, 29 ülkenin katıldığı Dünya Yapay Zeka İşbirliği Örgütü'nün kurulmasına öncülük etti ve teknolojinin küresel yönetişiminin daha "adil ve eşitlikçi" olması çağrısında bulundu.

Shi, duygusal YZ kurallarının, diğer hükümetlerin de benzer önlemler almasına yol açabilecek "önemli bir dönüm noktasını" temsil ettiğini söylüyor. "Mevcut aşama için çok gelişmiş bir yönetmelik" ve "çok olumlu bir yönü var," diyor.

Ancak araştırmacı, gelecekteki kuralların sadece duygusal arkadaş olarak tasarlanan uygulamalarla sınırlı kalmaması gerektiği konusunda uyarıyor, çünkü "genel amaçlı asistanların günlük kullanımı sırasında da bağlılık gelişebilir."

Çin'in yönetmeliği, kullanıcıyla sürdürülebilir bir duygusal bağ kurmak üzere tasarlanmadıkları sürece iş asistanlarını, eğitim araçlarını ve soru-cevap sistemlerini muaf tutuyor.

Shi, "Sorun şu ki, YZ ile yapılan bu duygusal alışverişlerin uzun vadeli sonuçlarını bilmiyoruz. Kısa vadede insanların, özellikle de sosyal olarak izole edilmiş veya konuşacak insanı olmayanların tatmin olduğunu biliyoruz. Uzun vadede insanların etraflarında gerçek insanlar olmadan ne derece gelişebileceklerini bilmiyoruz," diye ekliyor.

El Pais