Büyük dil modelleri giderek daha fazla bilişsel görevi üstlenirken, araştırmacılar bu zihinsel dış kaynak kullanımının bir bedeli olduğu konusunda uyarıyor.
Araştırma bilimcisi Nataliya Kosmyna stajyer ararken, aldığı ön yazıların şüpheli derecede benzer olduğunu fark etti.
Yazılar uzundu, iyi düzenlenmişti ve girişlerin ardından çoğu zaman kendi çalışmalarıyla soyut ve keyfi bir bağlantıya atlıyordu.
Başvuranların, ChatGPT, Google Gemini ve Claude gibi sohbet botlarını çalıştıran bir yapay zekâ türü olan büyük dil modellerini (LLM) kullanarak bu yazıları yazdığı onun için açıktı.
Aynı zamanda, insan-bilgisayar etkileşimini inceleyen Kosmyna, Massachusetts Institute of Technology (MIT) kampüsündeki derslerinde, birçok öğrencinin birkaç yıl öncesine kıyasla içerikleri daha kolay unuttuğunu fark etti.
LLM’lere artan bağımlılıkla birlikte, bunun öğrencilerinin bilişini etkileyebileceğine dair bir önsezisi vardı ve bunu daha iyi anlamak istedi.
Kosmyna gibi araştırmacıların endişesi, yapay zekâya fazla bağımlı hale gelirsek bunun kullandığımız dili ve hatta temel bilişsel görevleri yerine getirme yeteneğimizi etkileyebileceğidir.
Artık, yapay zekâya yapılan bu “bilişsel dış yükleme”nin zihinsel yeteneklerimiz üzerinde aşındırıcı bir etkisi olabileceğini gösteren giderek büyüyen bir araştırma birikimi var. Sonuçlar endişe verici olabilir ve hatta bilişsel gerilemeye katkıda bulunabilir.
ChatGPT grubu belirgin şekilde daha az beyin aktivitesi gösterdi – bu oran yüzde 55’e kadar azaldı.
Kullandığımız araçların nasıl düşündüğümüzü değiştirebildiği iyi bilinir. Örneğin internetin ortaya çıkışıyla birlikte, bir zamanlar derin araştırma gerektiren görevler, basit bir sorguyu arama kutusuna yazmakla bulunabilir hale geldi.
Arama motorlarının kullanımı arttıkça, araştırmalar ayrıntıları hatırlama olasılığımızın azaldığını gösterdi; bu durum “Google etkisi” olarak adlandırıldı. (Ancak bazıları, internetin beynimizi diğer görevler için serbest bırakan bir dış hafıza sistemi olarak hizmet ettiğini savunur.)
Ancak artık düşünmemizin daha fazlasını LLM’lere ve diğer yapay zekâ biçimlerine devrettikçe, bunun hafızamız ve problem çözme yeteneğimiz üzerindeki etkilerinin daha da kötüleşebileceğine dair artan bir endişe var.
Yapay zekâ araçları ikna edici şiirler yazabilir, finansal tavsiyeler verebilir ve arkadaşlık sağlayabilir. Öğrenciler de giderek kendi çalışmalarını yapay zekâ araçlarına devrediyor.
Çalışmalar, gençlerin özellikle eleştirel düşünme gibi temel bilişsel beceriler üzerinde yapay zekâ kullanımının olumsuz etkilerine karşı daha savunmasız olabileceğini zaten göstermiştir. Ancak Kosmyna bu etkileri daha derinlemesine incelemek istedi.
Azalan zihinsel çaba
Kosmyna ve MIT Media Lab’deki meslektaşları, kısa denemeler yazmaları için 54 öğrenci topladı ve onları üç gruba ayırdı. Bir grup ChatGPT kullanmakla görevlendirildi.
İkinci grup, yapay zekâ tarafından üretilmiş özetler kapalı olacak şekilde Google aramasını kullanabildi. Üçüncü grup ise teknoloji kullanmadı. Öğrenciler çalışırken her birinin beyin dalgaları ölçüldü.
Deneme konuları özellikle açık uçlu seçildi; yani görev için fazla araştırma gerekmiyordu. Sorular sadakat, mutluluk veya günlük yaşam tercihlerimiz gibi konuları içeriyordu.
Sonuçlar henüz bilimsel bir dergide yayımlanmadı, ancak Kosmyna’ya göre yine de oldukça çarpıcıydı. Kendi zihinlerini kullananların beyinleri “alev alev yanıyordu” ve beynin birçok bölgesinde yaygın aktivite görülüyordu.
Sadece arama motoru kullanan grup hâlâ beynin görsel bölgelerinde güçlü aktivite gösterirken, ChatGPT kullanan grup belirgin şekilde daha az beyin aktivitesi gösterdi – bu oran yüzde 55’e kadar azaldı.
Kosmyna, “Beyin uykuya dalmadı, ancak yaratıcılık ve bilgi işleme ile ilgili alanlarda çok daha az aktivasyon vardı,” diyor.
ChatGPT ayrıca insanların hafızasını da etkiledi. Denemelerini teslim ettikten sonra, yapay zekâ grubundaki kişiler yazılarından alıntı yapamadı ve birçoğu çalışma üzerinde sahiplik hissi duymadığını belirtti.
Diğer çalışmalar da, insanların ChatGPT gibi yapay zekâ araçlarını kullandıklarında bilgiyi saklama ve hatırlama becerilerinin azaldığını göstermiştir.
Bulgular hâlâ hakem değerlendirmesinden geçiyor olsa da, diğer çalışmalarla paralellik gösteriyor.
Örneğin Pennsylvania Üniversitesi’ndeki araştırmacıların bir çalışması, bazı insanların üretken yapay zekâ sohbet botlarını kullanırken “bilişsel teslimiyet” yaşadığını öne sürüyor.
Bu, insanların yapay zekânın söylediklerini çok az sorgulayarak kabul etmesi ve hatta kendi sezgilerinin yerine geçmesine izin vermesi anlamına geliyor.
Benzer etkiler sadece yapay zekâ sohbet botlarıyla sınırlı değil – hatta ölüm kalım durumlarında bile görülebiliyor.
Çok uluslu bir araştırma ekibi, üç ay boyunca kolon kanseri taraması için yapay zekâ aracı kullanan tıp profesyonellerinin, daha sonra bu araç olmadan tümörleri tespit etmede daha kötü performans gösterdiğini buldu.
Kosmyna, yapay zekâya iş devretmenin, özgün eserler ortaya çıkaran yaratıcılığın büyük ölçüde kaybedilmesi riskini de taşıdığını belirtiyor.
Onun çalışmasında öğrencilerin ChatGPT ile yazdığı denemeler birbirine çok benziyordu ve değerlendiriciler tarafından “ruhsuz”, özgünlük ve derinlikten yoksun olarak tanımlandı. “Öğretmenlerden biri, denemeler o kadar benzerdi ki öğrenciler yan yana mı oturuyor diye sordu,” diyor.
Bu tür çalışmalar LLM’lerin beyin üzerindeki kısa vadeli etkilerini gösterirken, uzun vadeli etkiler çok daha belirsiz. Ancak Kosmyna ve ekibinin çalışması buna dair bir ipucu sunuyor.
İlk çalışmadan dört ay sonra öğrencilerden tekrar bir deneme yazmaları istendi; bu kez ChatGPT kullananlardan LLM desteği olmadan yazmaları istendi.
Bu öğrencilerin beyinlerindeki sinirsel bağlantı, tersine geçiş yapanlara göre daha düşüktü; bu da belki de konularla baştan yeterince etkileşime girmediklerini gösteriyor.
Bilişsel gerileme
Yine de, hesaplamalı sinirbilimci ve Robot Proof kitabının yazarı Vivienne Ming’e göre LLM’ler, ancak zihinsel görevleri tamamen devretmezsek düşünmeye yardımcı olan olumlu araçlar olabilir. Ancak Ming, çoğu insanın bu teknolojiyi bu şekilde kullanmadığından endişe ediyor.
Bu görüşünü, Berkeley Üniversitesi’nde bir grup öğrenciden petrol fiyatı gibi gerçek dünya sonuçlarını tahmin etmelerini istediği araştırmasına dayandırıyor. Katılımcıların çoğunun sadece yapay zekâya sorduğunu ve cevabı kopyaladığını buldu.
Beyinlerindeki gama dalgası aktivitesini ölçtü – bu bilişsel çabanın bir göstergesidir – ve çok düşük aktivasyon gözlemledi.
Bu araştırma da henüz yayımlanmadı, ancak Ming bulgular doğrulanırsa uzun vadeli sonuçların ciddi olabileceğinden endişe ediyor. Örneğin diğer araştırmalar, zayıf gama dalgası aktivitesini ilerleyen yaşlarda bilişsel gerilemeyle ilişkilendirmiştir.
Ming, “Bu gerçekten endişe verici,” - “Eğer insanların bu sistemlerle etkileşim kurma biçimi buysa – ve bunlar zeki öğrenciler – bu kötü.” diyor.
Derin düşünmenin insanın süper gücü olduğunu söyleyen Ming, “Eğer bunu kullanmazsak, bilişsel sağlık açısından uzun vadeli sonuçlar oldukça güçlü olur,” diyor.
Bunun nedeni, LLM’lere güvendiğimizde çok az bilişsel çaba harcamamızdır ve sağlıklı bir beyin için gereken şey tam da budur.
Ancak katılımcıların küçük bir kısmı – yüzde 10’dan azı – farklı çalıştı ve yapay zekâyı veri toplamak için bir araç olarak kullanıp ardından analizlerini kendileri yaptı. Bu kişiler daha doğru tahminler yaptı ve daha güçlü beyin aktivitesi gösterdi.
Uzun vadeli beyin sağlığı için kendimizi zorlamaya devam etmeliyiz.
Yaklaşık yirmi yıl önce Ming, 20 ila 30 yıl içinde Google Maps’e aşırı bağımlılıkla doğrudan ilişkili istatistiksel olarak anlamlı bir demans artışı göreceğimizi öngörmüştü. “Bunu provoke edici olsun diye söylemiştim,” diyor. “Eğer yön bulmayı düşünmek zorunda kalmazsanız, bunun ölçülebilir bir etkisi olacaktır.”
Bu tahmine dair kesin veriler olmasa da, GPS kullanımındaki artışın zamanla mekânsal hafızanın kötüleşmesiyle bağlantılı olduğu bir çalışmada gösterilmiştir.
Ayrıca zayıf mekânsal yön bulma becerisi, Alzheimer hastalığının potansiyel bir göstergesi olabilir.
Beynimiz ne kadar aktifse, bilişsel gerilemeye karşı o kadar korunur. Ming’e göre LLM’ler yalnızca yaratıcılığı azaltmakla kalmayabilir, aynı zamanda bilişi zayıflatabilir ve potansiyel olarak demans riskini artırabilir. Yapay zekâ araçlarının kullanımı arttıkça, onlarla bize zarar vermek yerine fayda sağlayacak şekilde çalışmamız gerekir.
Ming, nihai hedefin insanların ve makinelerin “zor işleri birlikte yaptığı” bir “hibrit zekâ” biçimi olabileceğini söylüyor. Bununla kastettiği, önce düşünmemiz ve sonra araçları kendimizi zorlamak için kullanmamız gerektiğidir; sorularımıza doğrudan cevap vermeleri için değil.
Kosmyna da buna katılıyor ve önce yapay zekâ araçları olmadan konuları öğrenip bir temel oluşturmayı, ardından LLM’leri kullanmayı öneriyor.
Ming ayrıca “nemesis prompt” adını verdiği bir yöntemi öneriyor. Bu yöntemde yapay zekâdan “ömür boyu düşmanınız” gibi davranması isteniyor ve fikirlerinizin neden yanlış olduğunu detaylı şekilde açıklaması talep ediliyor. Bu da sizi, cevapları olduğu gibi kabul etmek yerine savunmaya ve geliştirmeye zorluyor.
Bir diğer teknik ise “üretken sürtünme”yi önceliklendirmek; yani yapay zekâdan yalnızca bağlam sağlamasını ve size sorular sormasını isteyip doğrudan cevap vermemesini sağlamak.
Ming, cevap vermeyecek şekilde ayarladığı bir yapay zekâ ile bunu test ettiğinde, daha fazla kişinin sürece aktif şekilde katıldığını gördü.
Sonuç olarak, “beynimizin sevdiği” bilişsel kestirmelere karşı dikkatli olmalıyız, diyor Kosmyna. Uzun vadeli beyin sağlığı için kendimizi zorlamaya devam etmemiz gerektiği açık. Zihnimiz, yaratıcılığımız ve bilişsel sağlığımız bundan fayda görecektir.
BBC
