Tokenmaxxing Dönemi Sona mı Eriyor?

Şirketler Artan Maliyetler Nedeniyle Harcamaları Kısmaya Başladı

Kurumsal dünyada yapay zekâ kullanımını mümkün olduğunca artırmayı ifade eden "tokenmaxxing" akımı, şirketlerin hızla yükselen maliyetlerle karşı karşıya kalması ve buna karşılık benzer ölçüde verimlilik artışı elde edememesi nedeniyle etkisini kaybetmeye başladı.

İlkbaharda teknoloji sektörünün öncülüğünde başlayan ve OpenAI'nin ChatGPT'si ile Anthropic'in Claude modeli gibi üretken yapay zekâ sistemlerinden mümkün olan en fazla çıktıyı elde etmeyi amaçlayan yaklaşım, yaz aylarında yerini ciddi eleştirilere bıraktı.

Moody's Ratings Yapay Zekâ Analitiği Başkanı ve konuya ilişkin yeni bir raporun yazarı Vincent Gusdorf, şirketlerin daha disiplinli hareket etmesi gerektiğini belirterek şunları söyledi:

"Yapay zekâ ile aslında ihtiyaç duymadığınız şeyleri üretmek çok kolay."

"Tokenmaxxing" Nedir?

"Tokenmaxxing", üretken yapay zekâ sistemlerinin temel çalışma birimi olan token kullanımını en üst seviyeye çıkarmayı ifade ediyor.

Tokenlar, yapay zekânın okuyup yazdığı küçük metin parçalarından oluşuyor. Ortalama olarak bir token yaklaşık dörtte üç kelimeye karşılık geliyor. 

Yapay zekâ servislerinde kullanılabilecek token miktarı genellikle belirli bir sınırla kısıtlanırken, daha pahalı abonelik paketleri daha yüksek kullanım limitleri sunuyor.

Gusdorf'a göre şirketler faturalar yükselmeye başlayınca önemli bir gerçeği fark etti:

"Faturalar gelmeye başladığında insanlar bu yeni araçların oldukça pahalı olduğunu ve dikkatli kullanılmaları gerektiğini anladı."

Silikon Vadisi Bir Süre Token Kullanımını Başarı Göstergesi Olarak Sunmuştu

Birkaç ay öncesine kadar Silikon Vadisi yöneticileri, yoğun token kullanımını yüksek performanslı çalışanların bir göstergesi olarak pazarlıyordu.

"Tokenmaxxer" olarak tanımlanan çalışan profili; geceleri geç saatlere kadar çalışan, hatta özel hayatını ihmal ederek kendi adına görev yapan yapay zekâ ajanlarını yöneten kişi olarak anlatılıyordu.

OpenAI CEO'su Sam Altman, mayıs ayında yaptığı açıklamada şunları söylemişti:

"Hem şirketlerin kendi çalışma biçimleri hem de geliştirecekleri ürünler açısından tokenmaxxing girişimlerinin neler yapacağını görmek beni heyecanlandırıyor."

Nvidia CEO'su Jensen Huang ise şu ifadeleri kullanmıştı:

"500 bin dolarlık maaş alan bir mühendis yılda 250 bin dolarlık token tüketmiyorsa ortada yanlış giden bir şey vardır."

Meta'nın da çalışanlar arasında token kullanımını ödüllendiren şirket içi yarışmalar düzenlediği belirtiliyor.

Bu eğilim OpenAI ve Anthropic gibi büyük yapay zekâ şirketlerinin gelirlerini artırsa da, zamanla bunun her kurum için doğru strateji olmadığı görüldü.

Satya Nadella ve Alex Karp da Uyarıda Bulundu

Microsoft CEO'su Satya Nadella, tokenmaxxing'in bağımlılık yaratabileceğini kabul ederken, şirketlerin aslında yapay zekâ için iki kez ödeme yaptığını söyledi.

Nadella'ya göre müşteriler;

• hem kullandıkları tokenlar için ödeme yapıyor,
• hem de tüm kurumsal verilerini yapay zekâ sağlayıcılarına aktarıyor.

Bu açıklama, Microsoft'un rakip yapay zekâ sağlayıcılarının veri güvenliği konusundaki yaklaşımlarını dolaylı biçimde sorgulaması açısından dikkat çekti.

Palantir CEO'su Alex Karp ise CNBC'ye yaptığı açıklamada çok daha sert ifadeler kullandı.

Karp, Amerikan şirketlerinin büyük bölümünün özel sohbetlerde büyük rahatsızlık duyduğunu belirterek şöyle konuştu:

"Şirketler, hiçbir değer üretmeyen tokenlara para öderken aynı zamanda fikri mülkiyetlerini de karşı tarafa veriyor."

Şirketler Artık Daha Akıllı Yapay Zekâ Kullanımına Yöneliyor

Bain & Company danışmanlarından Jue Wang, büyük şirketlerin artık yapay zekâ yatırımlarının geri dönüşünü çok daha dikkatli analiz ettiğini söyledi.

Wang'a göre token maliyetleri birçok şirkette iki ayda bir neredeyse iki katına çıkıyor.

Şöyle bir örnek verdi:

• Geliştirici başına aylık yaklaşık 200 dolar
• 20 bin yazılımcısı bulunan büyük bir şirkette bu maliyet milyonlarca dolara ulaşıyor.

Bu nedenle şirketler artık en güçlü modeli her işte kullanmak istemiyor.

Wang, Anthropic'in gelişmiş modeli Claude Opus 4.6'yı örnek göstererek şunları söyledi:

"Her iş için Claude Opus 4.6 kullanmanız gerekmiyor. Buna rağmen birçok şirket, e-posta yazdırmak gibi basit görevlerde bile en pahalı modeli tercih ediyor."

Yeni Eğilim: "Model Routing"

Şirketlerin yöneldiği yeni yaklaşım ise "model routing" (model yönlendirme) sistemi.

Bu yöntemde;

• basit sorular daha ucuz ve hızlı çalışan yapay zekâ modellerine,
• karmaşık analizler ise daha güçlü modellere

otomatik olarak yönlendiriliyor.

Böylece hem maliyet düşüyor hem de kaynaklar daha verimli kullanılıyor.

Çin Kaynaklı Açık Kaynak Modeller İlgi Görüyor

Öte yandan Çinli girişimlerin geliştirdiği açık kaynak yapay zekâ modelleri de dikkat çekmeye başladı.

Moonshot'un Kimi modeli ve Zhipu'nun GLM modeli, üst düzey Amerikan yapay zekâ sistemlerine yakın performansı çok daha düşük maliyetlerle sunabiliyor.

Together AI şirketinde geliştirici deneyiminden sorumlu Hassan El Mghari, birçok kurumun artık yüksek kullanım ödüllerinden vazgeçtiğini belirterek şöyle konuştu:

"Çalışanları yüksek token kullanmaya teşvik etmek yerine, yapay zekâyı ne zaman ve ne kadar kullanmaları gerektiğini öğretmek çok daha doğru."

"Tokenmaxxing" Geçici Bir Moda mıydı?

Mozilla Teknoloji Direktörü Raffi Krikorian, token kullanımını üretkenlik göstergesi olarak değerlendirmenin geçmişte yazılımcıların yazdığı kod satırı sayısını başarı kriteri kabul etmeye benzediğini söyledi.

Krikorian'a göre sektör aynı hatayı tekrar ediyor.

"Tokenmaxxing'in aptalca bir yaklaşım olduğunu sektör yavaş yavaş fark ediyor."

Deneyimli teknoloji yöneticisi, bu eğilimin kısa süre sonra unutulacağını belirterek sözlerini şöyle tamamladı:

"Bence bu, bir yıl sonra dönüp gülümseyerek hatırlayacağımız ilginç ama kısa ömürlü bir dönem olacak."

AP News