Claude, metinlere filigran eklemeye başlayacak

Ancak bu kaliteyi düşürecek mi?

Anthropic, AB düzenlemelerine uymak için sohbet robotunun küçük ve rastgele seçimler yapma biçimini değiştireceğini açıkladı.

Artık makine tarafından üretilen metinlerin alışılmış özelliklerine herkes aşina: “bazı” kelimelerin aşırı kullanılması, uzun tirelerin gereğinden fazla tercih edilmesi ve “bu X değil, Y” şeklindeki neşeli ama amansız cümle yapısının sürekli tekrarlanması.

Peki, işler daha da kötüleşmek üzere mi?

Hafta sonu Anthropic, Claude yapay zekâ modelinin metin üretme biçimini değiştireceğini duyuran bir güncelleme yayımladı. Bunun nedeni, Aralık ayından itibaren yapay zekâ tarafından üretilen tüm metinlerin filigranlanmasını zorunlu kılan bir AB düzenlemesine uymak.

Anthropic, değişikliklerin modellerin metin üretirken yaptığı çok küçük ve rastgele seçimler düzeyinde gerçekleştirileceğini ve ortalama bir okuyucu tarafından fark edilemeyeceğini söyledi.

Ancak en az bir yorumcu bunun aksini düşünüyor. Deneyimli teknoloji blog yazarı John Gruber, “Bu girişimin tamamı, yazmanın ne anlama geldiğinin çarpıtılmış bir biçimi” diye yazdı. Gruber, filigranın Claude’u kısıtlayacağını ve bunun sonucunda modelin genel olarak daha kötü ve daha az isabetli kelime seçimleri yapacağını savundu.

Bu durum modelin yazdıklarını daha az doğru hâle getirmeyebilir; ancak Gruber’a göre getirilen sınırlamalar metnin kalitesini düşürecek.

Bir yapay zekâ modelinin bir cümleyi oluştururken yaptığı küçük seçimlerde stokastik, yani rastlantısal bir unsurbulunuyor. Örneğin model, bir günü tanımlarken “gri” ya da “kapalı” demeyi seçebilir; akan suyu tanımlamak için “dere” yerine “çay” ifadesini kullanabilir.

Anthropic’in yeni filigran sistemi, bu rastgele seçimleri değiştirecek. Şirket, bunun sonucunda Anthropic’in kendisi ve filigranı çözmek için gerekli anahtara sahip olan kişiler tarafından tespit edilebilecek bir örüntü oluşacağını belirtti.

University College London’da bilgisayar bilimi profesörü olan Steven Murdoch, değişikliğin “muhtemelen fark edilebilir herhangi bir etkisinin olmayacağını” söyledi.

Gruber’ın itirazı, filigran sisteminin büyük bir dil modelinin bir cümlede sıradaki kelimeyi seçme özgürlüğünü azaltacağı ve dolayısıyla modelin en iyi seçeneği tercih etmeyebileceği düşüncesine dayanıyor.

Ancak LLM’ler zaten her zaman en iyi seçimleri yapmıyor.

Murdoch, “Bu büyük dil modellerinin herhangi birinde zaten rastlantısallık söz konusu” dedi. “Bu, çalışma biçimleri açısından oldukça temel bir unsur. Eğer bu rastlantısallık olmasaydı, döngülere girer ve aynı şeyi tekrar tekrar söylemeye başlarlardı.”

Başka bir ifadeyle, bir sohbet robotu akan suyu “çay” yerine “dere” olarak adlandırmaya karar verirken, “dere” kelimesinin daha eski moda bir kullanım biçimine sahip olduğunu düşünüp bilinçli bir seçim yapmıyor. Model bu seçenekleri değerlendirmiyor; onları rastlantısal biçimde seçiyor.

Bunun yakın zamanda bir örneği de ortaya çıktı. Önde gelen bir kimya dergisinde yayımlanan bir makale, yazarların yayının bir bölümünü hazırlamak için yapay zekâ aracı kullanmış gibi görünmesi nedeniyle geri çekilmek zorunda kaldı. Araç, “final solution” ifadesine alternatif olarak “bir etnik grubun kitlesel öldürülmesi” anlamına gelen bir ifade kullanmıştı. Oysa söz konusu paragrafın çinko nanojel hakkında olduğu görülüyordu.

Murdoch, güncellemeyle ilgili olarak şunları söyledi:

“Fark edilebilir hiçbir değişiklik olmayacak. Aynı rastgele sayı üreteçleri kullanılacak; daha önce tamamen rastgeleydiler, şimdi ise istatistiksel olarak öngörülebilir olacaklar, ancak yine de rastgele kalacaklar.”

AB’de faaliyet gösteren tüm yapay zekâ şirketlerine uygulanan düzenleme, şirketlerin birkaç ay içinde bu filigranları uygulamaya koymasını gerektiriyor.

Bu durum öğrencilerin, avukatların ve üniversite profesörlerinin sohbet robotları tarafından yazılan içerikleri kendi eserleriymiş gibi sunmalarını zorlaştırabilir.

Ancak Murdoch’a göre yapay zekâ içeriklerinin filigranlanmasının başka bir nedeni daha var: Ortada zaten o kadar fazla yapay zekâ üretimi içerik bulunuyor ki bu durum modellerin kendilerine zarar verebilir.

Yapay zekâyı, yine yapay zekâ tarafından üretilmiş metinlerle eğitmek “model çöküşüne” (model collapse) yol açıyor ve modellerin kavramları birbirine karıştırmasına neden oluyor.

Başka bir ifadeyle filigranlama yalnızca dezenformasyonla mücadele etmek için sessiz ama güçlü bir yöntem değil; aynı zamanda sohbet robotlarının “aklını kaçırmasını” önlemek amacıyla yapay zekâ ekosistemini kökten dönüştürebilecek bir sistem.

The Guardian