AB’nin filigran uygulaması metin kalitesini etkiler mi?

Anthropic’in AB kuralları kapsamındaki yapay zekâ şeffaflığı çalışmaları tartışma yaratırken, uzmanlar yapay zekâ tarafından üretilen metinlere filigran eklenmesinin çıktı kalitesini bozacağı yönündeki endişelere karşı çıkıyor.

ABD’li teknoloji devi Anthropic’in, AB’nin tercih ettiği şeffaflık uygulamalarından biri kapsamında attığı adım eleştirilere yol açtı. 

Ancak uzmanlar, yapay zekâ tarafından üretilen metinlere filigran eklenmesinin metin kalitesini mutlaka düşürmeyeceğini savunuyor.

AB’nin Yapay Zekâ Yasası (AI Act), kapsam dahilindeki geliştiricileri; internet kullanıcılarının sentetik içeriği ayırt edebilmesine yardımcı olmak ve dezenformasyon gibi riskleri azaltmak amacıyla ses, görüntü, video ve metin gibi farklı içerik türlerini görünmez biçimde işaretlemeye yönelik önlemler almaya zorluyor.

Üretken yapay zekâ araçlarına erişimin yaygınlaşmasıyla birlikte, internette ve diğer alanlarda düşük kaliteli yapay zekâ içeriklerinde de büyük bir artış yaşandı.

Profesyonel sosyal ağ LinkedIn bile geçen ay, yapay zekâ tarafından üretilmiş olduğundan şüphelenilen ve kullanıcıları bunaltan “AI slop”, yani düşük kaliteli, özensiz ve kitlesel biçimde üretilmiş yapay zekâ içeriklerini bildirmelerine olanak tanıyan bir düğme kullanıma sundu.

Anthropic’in görünmez filigran yöntemi tartışma yarattı

Claude adlı sohbet botunun geliştiricisi olan Anthropic, geçen hafta AB’nin yapay zekâ şeffaflık kurallarını nasıl uygulayacağını açıkladı.

Ancak şirketin destek sayfasında, yöntem hakkında fazla ayrıntı verilmeden yalnızca “doğrudan metnin içine algılanamayacak bir filigran yerleştirmek” ifadesi kullanıldı.

Bu açıklama bazı çevrelerde endişeye yol açtı.

Özellikle ABD’li teknoloji blog yazarı John Gruber, yayımladığı bir yazıda Anthropic’ten daha fazla açıklama talep etti ve şirketin metinlere görünmez işaretler eklediğini öne sürdü.

Ancak habere göre, bu yorum hatalıydı. Çünkü yapay zekâ sektöründe kullanılan filigranlama yöntemleri yıllardır çok daha gelişmiş ve sofistike tekniklere dayanıyor.

“Küçük bir yönlendirme”

Anthropic’in kullandığı yaklaşım, şirketin daha sonra yayımladığı bir blog yazısında açıkladığı üzere, Google’ın 2024 yılında kullanıma sunduğu SynthID tabanlı filigranlama teknolojisine dayanıyor.

Bu süreç, yapay zekâ modelinin metin üretirken yaptığı düşük önem taşıyan kelime seçimlerini değiştirmeyi içeriyor.

Örneğin:

“Bugün hava soğuk ve…”

şeklinde başlayan bir cümlenin ardından, üretken yapay zekâ modeli önceki kelimelere dayanarak en olası sonraki kelimeyi tahmin eder. Bu durumda model, örneğin “kapalı” veya “gri” gibi farklı kelimeleri seçebilir.

Filigranlama sistemi, modelin bu seçimlerini çok küçük ölçüde etkiliyor ve örneğin modeli “kapalı” kelimesini seçmeye doğru yönlendirebiliyor.

Uzun bir metin boyunca buna benzer çok sayıda küçük kelime tercihi yapıldığında, metnin içine daha sonra tespit edilebilecek belirli bir istatistiksel örüntü yerleştirilmiş oluyor.

Buna rağmen bazı eleştirmenler itirazlarını sürdürdü.

John Gruber, bu yönlendirme tekniğini daha sonra “açıkça rahatsız edici” olarak nitelendirdi ve bunu “yazmanın ne anlama geldiğinin sapkın bir biçimde bozulması” şeklinde tanımladı.

Gruber’a göre:

“Tanımı gereği metni daha kötü hâle getirmek zorunda.”

Metnin uzunluğu belirleyici

Uzmanlar ise bu görüşe katılmıyor.

Sheffield Üniversitesi Metin Analitiği Profesörü ve AB’nin şeffaflık kurallarının hazırlanmasında eş başkanlık yapan Kalina Bontcheva, yaptığı açıklamada şunları söyledi:

“Genel olarak bu yöntem yalnızca çok kısa metinlerde metin kalitesini bozucu hâle geliyor.”

Bontcheva, konunun kurallar hazırlanırken ayrıntılı biçimde tartışıldığını ve bu sürece ilgili yapay zekâ şirketlerinin de katıldığını belirtti.

Şöyle devam etti:

“Bu nedenle ‘çok kısa metnin’ ne olduğuna ilişkin açık bir tanım yaptık, bu eşiği büyük yapay zekâ model sağlayıcılarıyla görüştük ve uygulamanın mümkün olduğu konusunda anlaşmaya vardık.”

Pisa Üniversitesi Bilgisayar Bilimleri Profesörü ve kuralların hazırlanmasında diğer eş başkan olan Dino Pedreschi de bu görüşe katıldı.

Pedreschi, yazım kalitesiyle ilgili endişeleri kabul etmekle birlikte, yeterince uzun metinlerde bunun “bir sorun olmadığını” söyledi.

Kurallara göre filigranlama uygulaması yalnızca 200 token’dan uzun, yani yaklaşık 150 kelimeyi aşan metinler için geçerli.

Avrupa Komisyonu da yapay zekâ tarafından üretilen metinlerin filigran nedeniyle bozulacağı yönündeki endişeleri reddetti.

Komisyon sözcüsü Euractiv’e şu açıklamayı yaptı:

“Kurallar kapsamında öngörülen önlemler mevcut en ileri uygulamalarla uyumludur ve AB’nin yapay zekâ kuralları tasarım gereği daha kötü metin çıktılarının ortaya çıkmasına yol açmaz.”

Büyük yapay zekâ şirketleri de kurallara dahil

Yapay Zekâ Yasası’nın şeffaflık kuralları kapsamındaki yükümlülükler, büyük yapay zekâ laboratuvarlarının tamamını ilgilendiriyor.

OpenAI, Google ve Mistral dahil olmak üzere birçok şirket, yapay zekâ metinlerinin makine tarafından tespit edilebilir hâle getirilmesinin yollarından biri olarak filigranlama taahhüdünü içeren ilgili şeffaflık kurallarına imza attı.

Yeni bir yapay zekâ silahlanma yarışı mı?

Ancak Anthropic’in açıklaması, Claude’un filigran sistemini etkisiz hâle getirdiğini iddia eden araçların hızla geliştirildiğine ilişkin haberleri de beraberinde getirdi.

Pedreschi, filigranların tamamen kaldırılamayacağını değil, kaldırılabileceklerini kabul etti. Ancak bu sistemlerin, içeriklere eklenen sıradan metadata, yani üst veri etiketlerine kıyasla aşılmasının daha zor olduğunu savundu.

Bunun yanında Pedreschi’ye göre filigranlar, özellikle kötü niyetli kullanıcılar açısından yeterince caydırıcı olabilir.

Çünkü en azından, yaptıkları işlemin daha sonra tespit edilme ihtimali bulunduğunu bilmeleri, kötü niyetli kişileri harekete geçmeden önce iki kez düşünmeye zorlayabilir.

Yazının temel tartışması

Bu tartışma, yapay zekâ çağında giderek daha önemli hâle gelen temel bir soruyu ortaya çıkarıyor: Bir metnin yapay zekâ tarafından üretildiğini tespit edebilmek için ne kadar müdahale edilebilir?

AB’nin yaklaşımı, görünmez filigranlarla içeriklerin kökeninin daha sonra belirlenebilmesini sağlamayı amaçlıyor. Uzmanlara göre, yeterince uzun metinlerde bunun yazının kalitesini veya anlamını kayda değer biçimde bozmadan yapılması mümkün.

Bununla birlikte, filigranları kaldırmaya çalışan araçların ortaya çıkması, yapay zekâ içeriklerinin tespiti ile bu tespit yöntemlerinin aşılması arasındaki mücadelenin, yeni bir teknolojik silahlanma yarışına dönüşebileceğine işaret ediyor.

Euractiv