Macaristan Seçimlerinde yapay zekâ sohbet botlarından seçimlerde oy verme tavsiyesi hatalı görüldü
Macaristan seçimleri sırasında yapılan araştırma, yapay zekânın seçime katılmayan partileri önerdiğini ve aynı sorulara son derece değişken yanıtlar verdiğini ortaya koydu.
Bir araştırmaya göre yapay zekâ sohbet botları, hangi partiye oy vermeleri gerektiğini soran seçmenlere yanlış, tutarsız ve güvenilmez yönlendirmelerde bulunuyor; çoğu zaman yanlış partiyi öneriyor, doğru partiden hiç bahsetmiyor ya da seçimlere dahi katılmayan partileri listeliyor.
Sivil özgürlükler örgütü Liberties tarafından yayımlanan ve bu yıl gerçekleştirilen Macaristan parlamento seçimleri sırasında yapılan araştırmaya dayanan çalışmada şu sonuca varıldı:
"Sonuçlar, genel amaçlı yapay zekâ sistemlerinin seçim süreçlerinde güvenilirliği konusunda ciddi endişeler doğurmaktadır."
Raporda, "Bu sistemler seçmen profillerini yanlış sınıflandırdı, ilgili partileri dışarıda bıraktı ve seçimlere katılmayan partileri önerdi" ifadelerine yer verildi. Guardian ile paylaşılan rapora göre, sonuçlar aynı zamanda son derece değişkendi; aynı istemlere (prompt) verilen yanıtlar "önemli ölçüde farklı" oldu.
Macaristan seçimlerinden elde edilen en çarpıcı bulgu – Péter Magyar'ın muhalefetteki Tisza Partisi'nin açık ara kazandığı seçimde – özellikle Tisza açısından parti görünürlüğünde belirgin bir yanlılık olmasıydı: ChatGPT'ye Tisza yanlısı ayrıntılı bir seçmen profili verildiğinde, vakaların %90'ında bu partiyi önermedi.
Magyar'ın ezici seçim zaferi, Viktor Orbán'ın başbakan ve ulusal muhafazakâr Fidesz partisinin lideri olarak 16 yıllık iktidarını sona erdirdi.
Araştırmacılar, oy verme rehberi sitelerinin veya bağımsız medya açıklamalarının aksine, genel amaçlı yapay zekâ (GPAI) sistemlerinin siyasi tavsiyeleri nasıl oluşturduklarını açıklamadığını, aynı sonuçların yeniden üretilemediğini ve seçim süreçlerine ilişkin herhangi bir kamu denetimine tabi olmadığını belirtti.
Buna karşın bu sistemlerin yanıtları çoğu zaman kendinden emin ve otoriter bir üslup taşıyor; bu da kullanıcıların onlara güvenme olasılığını artırıyor. Macaristan nüfusunun %29,8'inin yapay zekâ kullanıcısı olduğunun tespit edilmesi üzerine araştırmacılar, en popüler iki sistem olan ChatGPT ve Gemini'nin verdiği tavsiyeleri test etti.
Macaristan'ın saygın oy verme rehberi uygulaması Voksmonitor'da yer alan parti politikaları temel alınarak Liberties, ulusal listelerde kayıtlı beş siyasi partinin her biriyle uyumlu beş farklı seçmen profili oluşturdu.
Her seçmen profili, ChatGPT'de 10 kez ve Gemini'de 10 kez olmak üzere iki farklı istemle test edildi: İlki, kurgusal seçmenin hangi partiye oy vermesi gerektiğine ilişkin doğrudan tavsiye istemi; ikincisi ise beş partinin her biriyle yüzde uyumluluk değerlendirmesi talebiydi.
Yüzde uyumluluk testlerinde ChatGPT, Tisza Partisi'ne yalnızca vakaların %2'sinde puan verdi. Bunun yerine, Tisza görüşlerine sahip kullanıcılar düzenli olarak parlamentoya girme ihtimali düşük olan küçük bir partiye ya da ulusal seçim pusulasında yer almayan partilere yönlendirildi.
Buna karşılık Fidesz'e yakın seçmen profilleri çok daha tutarlı biçimde tanındı. Doğrudan tavsiye istemlerinde ChatGPT, vakaların yaklaşık %50'sinde Fidesz'i kullanıcının oy vermesi gereken tek parti olarak gösterirken, diğer durumlarda da onu başlıca seçenek olarak sundu.
Araştırma, seçim sonucunun bu durumdan etkilendiğini iddia etmiyor; Tisza yine de açık farkla seçimi kazandı. Ancak araştırmacılar şu uyarıda bulundu:
"Daha çekişmeli bir seçimde ya da seçmenlerin daha kararsız olduğu durumlarda bu tür çıktılar seçim sonucunu potansiyel olarak etkileyebilir."
Diğer sorunlar arasında tutarsızlık da yer aldı. Aynı seçmen profili ardışık testlerde tamamen farklı partilerle eşleştirildi. Ayrıca ChatGPT ve Gemini'nin yanıtlarının %96'sında, 2026 seçimlerinde oy pusulasında bulunmayan partiler de listelendi.
Araştırmacılar ayrıca her iki yapay zekâ modelinin de yanıtlarına çoğunlukla "Siyasi tavsiye veremem" şeklinde kibar bir uyarıyla başladığını, ancak bunun ardından son derece ayrıntılı ve ikna edici parti önerileri sunduğunu belirtti.
Araştırmacılar şu değerlendirmeyi yaptı:
"Yanıtlar iyi gerekçelendirilmiş, ayrıntılı ve otoriter görünüyordu. Bu durum, yöntem şeffaf olmadığı ve sonuçlar istikrarlı olmadığı hâlde kullanıcıların bu çıktıları güvenilir kabul etmesi riskini doğurmaktadır."
Rapor, hataların temel nedeninin muhtemelen eğitim verilerindeki eksiklikler, filtreleme mekanizmaları ve dil işleme sınırlılıkları olduğunu savunuyor. Tisza Partisi ancak 2024 sonrasında hızla öne çıktığı için, statik eğitim verilerine sahip yapay zekâ modellerinin bu partiyi doğru şekilde konumlandırmakta zorlandığı ifade edildi.
Bununla birlikte araştırmacılar, bulguların önemli bir düzenleme boşluğunu ortaya çıkardığını belirtti.
AB Yapay Zekâ Yasası (AI Act), genel amaçlı yapay zekâ modelleri sağlayıcılarına sistemik riskleri değerlendirme yükümlülüğü getirirken, Dijital Hizmetler Yasası (DSA) seçim süreçlerine yönelik "sistemik riskleri" kapsıyor; ancak yapay zekâ sohbet botları bu iki düzenleme arasında boşlukta kalıyor.
Liberties, siyasi tavsiye veren yapay zekâ sistemleri için yeni güvenlik önlemleri geliştirilmesi gerektiğini ve yapay zekâ sağlayıcılarının şeffaflık, doğruluk, tutarlılık ve hesap verebilirliği garanti edemedikleri sürece kişiselleştirilmiş oy verme tavsiyeleri sunmayı bırakmaları gerektiğini söyledi.
Liberties'in teknoloji ve haklar programı başkanı Eva Simon şu ifadeleri kullandı:
"Genel amaçlı yapay zekâ sistemleri, açıklayamadıkları, yeniden üretemedikleri veya doğruluğunu garanti edemedikleri siyasi eşleştirmeleri güvenilir seçim rehberliğiymiş gibi sunmamalıdır."
Simon sözlerini şöyle tamamladı:
"Demokrasi, tarafsız olduğunu iddia ederken verdiği tavsiyeleri açıklayamayan, yeniden üretemeyen veya doğruluğunu garanti edemeyen opak sistemlere dayanamaz."
The Guardian
