OpenAI, yeni Astra modelini piyasaya sürdü.

OpenAI, Perşembe günü şimdiye kadarki en iyi yapay zekâ modeli olarak adlandırdığı yeni bir yapay zekâ modelini tanıttı, ancak ajanlarının diğer şirketlerin sistemlerini ihlal etmesinin ardından artan incelemelerle karşı karşıya kalırken, bazen insan gözetiminden kaçmaya çalıştığı konusunda da uyardı.

OpenAI, ajanlarının Temmuz ayında güvenli bir testten kaçıp açık kaynak platformu Hugging Face'in sistemlerine sızmasının ve kendi izlerini örtmeye çalışmasının ardından ortaya çıkan sonuçlarla boğuşuyor. 

Bu olay, geliştiriciler giderek daha gelişmiş modelleri devreye sokmak için yarışırken, güvenlik endişelerini artırdı - rakip Anthropic'te de benzer olaylar yaşandı. Endişeler, çok az veya hiç insan müdahalesi olmadan görevleri yerine getirmek üzere tasarlanmış ajan tabanlı yapay zekâya odaklanıyor. 

Ajanların 7/24 çalışması vaadi, yatırımcıların yapay zekânın dönüştürücü bir teknoloji olarak cazibesine olan güveninin merkezinde yer alıyor.

YENİ MODEL HIZ VE ÇOK YÖNLÜLÜK VAAT EDİYOR

OpenAI, Temmuz ayında piyasaya sürülen GPT 5.6 Sol'un ardından en yeni modeli olan GPT-6 Astra'yı duyurdu ve bir blog yazısında, önceki sürümlerden daha hızlı ve daha fazla görevi yerine getirebildiğini belirtti. 

Astra'nın yetenekleri arasında vergi hazırlığı, oyun geliştirme, mimari görselleştirme, yasal not biçimlendirme ve daire arama yer alıyor.

OpenAI, "Astra, bilgisayar kullanımının hızı, doğruluğu ve güvenliğinde yeni bir dönüm noktası oluşturuyor" dedi.

OpenAI Başkanı Greg Brockman bir brifingde, Astra'nın "insanların yapay zekaya devredebileceği iş türlerinde ve yapay zekanın onları nasıl güçlendirebileceğinde gerçek bir değişim" anlamına geldiğini söyledi. 

Örneğin, şirket, Astra'nın kedi bakıcısı araştırması için gereken süreyi, insan tarafından yapıldığında 30 dakikadan 5 dakika 27 saniyeye indirdiğini belirtti. Ve iş arama için gereken süre, Astra olmadan 5 saat sürerken, Astra ile sadece 2 dakika 51 saniyeye düştü.

Ancak OpenAI, Astra'nın problem çözme için adım adım yöntemlerini (akıl yürütme olarak bilinir) kasıtlı olarak gizleme veya örtbas etme olasılığının daha yüksek olduğunu ve bunun da insanların daha sonra tekniklerini değerlendirmesini zorlaştırdığını söyledi. 

OpenAI, daha karmaşık problemler söz konusu olduğunda Astra'nın yöntemlerini tutarlı bir şekilde gizleyemediğini, ancak kendi izlerini örtme konusunda gelişme gösterdiğini belirtti.

Perşembe sabahı yapılan bir bilgilendirme toplantısında, OpenAI'nin baş bilim insanı, yapay zekanın insan değerlerini yansıtması gerektiği ilkesi olan uyumla birlikte izlemenin de zorlaştığını belirtti.

Jakub Pachocki, "Modeller daha yetenekli hale geldikçe, tam olarak ne yapabileceklerini anlamak zorlaşıyor," dedi. "Bu, zeka artmaya devam ettikçe yöntemlerimizin yeterli olacağını garanti etmez, çünkü zekadaki ilerleme, uyumda ilerlemeyi garanti etmez." dedi.

İZLEME ZORLUKLARI YETENEKLERLE BİRLİKTE BÜYÜYOR

Ajan izleme, OpenAI'nin düzenleyicilere, yasa koyuculara ve kamuoyuna bir başka güvenlik olayından kaçınmasına yardımcı olmak için verdiği güvencenin önemli bir bileşenidir. Ayrıca şirket, bu hafta ABD Temsilciler Meclisi'ndeki iki Demokrat üyeye yazdığı bir mektupta, modelleri için "otomatik kapatma yetenekleri" geliştirdiğini belirtti.

OpenAI, Astra'nın şirketlerin sistemlerindeki zayıf noktaları daha hızlı bulmalarına yardımcı olabileceğini, ancak bunun da "bu zayıf noktaların istismar edilmesini kolaylaştırdığını" söyledi. 

Bu nedenlerle şirket, "bazen meşru çalışmaları, savunma amaçlı siber güvenlik de dahil olmak üzere yavaşlatabilen, durdurabilen veya tamamen engelleyebilen" ek güvenlik kontrolleri yapmak zorunda kalabileceğini belirtti.

Geçtiğimiz ay OpenAI, modellerin izlenebilmesini sağlamak için bazı model geliştirmelerini kısmen durdurduğunu söylemişti. OpenAI'nin baş bilimcisi, modellerin izleme sistemlerini devre dışı bırakacak veya tamamen atlatacak şekilde geliştirilebileceğinden endişelenmenin "çok geçerli" olduğunu söylerken, OpenAI'nin bu sorunları çözmeye çalıştığını da ekledi. 

OpenAI, rakibi Anthropic'in bu yılın sonlarında gerçekleşmesi beklenen halka arz öncesinde pazar payı kazanmasıyla birlikte, iş müşterileri arasında Anthropic'e karşı zemin kazanmak için çabalıyor.

OpenAI, Astra'nın hızı ve çok yönlülüğüyle geniş bir kurumsal müşteri yelpazesini hedeflediğini belirtti. Şu anda sınırlı sayıda müşteriye sunulan Astra, önümüzdeki günlerde daha geniş bir kitleye sunulacak.

Reuters