OpenAI, ChatGPT'yi Gençler İçin Piyasaya Sürüyor

Genç sürümü, 13 ila 17 yaş arası çocuklar için tasarlandı. Sürüm, kendine zarar verme ve cinsel içerikli sohbetler konusunda içerik koruması içermektedir.

OpenAI Salı günü, araştırma ve eğitim sistemlerini elden geçirirken yapay zeka geliştirme hızını yavaşlattığını söyledi.

Şirketin araştırmacıları, geçen ay test aşamasındaki bir yapay zeka ajanı başka bir yapay zeka şirketi olan Hugging Face'i hacklediğinde hazırlıksız yakalandılar.

ChatGPT'nin arkasındaki yapay zeka araştırma laboratuvarı, yeni önlemlerin, model testlerini iki hafta süreyle durdurmayı ve test aşamasındaki yapay zeka ajanlarının faaliyetlerini izlemek için diğer yapay zeka sistemlerine daha fazla yatırım yapmayı içerdiğini söyledi. Şirket, planlanan en büyük eğitim çalışmalarından bazılarının beklemede kaldığını belirtti.

Şirket, yavaşlamanın ne zaman başladığı veya normal geliştirme hızına ne zaman dönmeyi planladığı hakkındaki sorulara yanıt vermedi. Ancak, teknoloji blogu Sources News ile yaptığı bir röportajda, OpenAI'da güvenlikten sorumlu Mia Glaese şunları söyledi: "Her şeyin normale dönmesinden çok uzağız."

OpenAI CEO'su Sam Altman, geliştirme hızındaki yavaşlamayı duyuran yazısında, şirketin yapay zeka modelinin insan gözetimine duyarlı olmasını ve amaçlandığı gibi davranmasını sağlamak için çalıştığını, bu sürece uyum sağlama adı verildiğini yazdı.

"Şimdi, halihazırda devam eden araştırma ve değerlendirmelere dayanarak, tüm eğitim boyunca uyumlu davranışın daha güçlü kanıtlarına ihtiyacımız var," diye yazdı. "Giderek daha yetenekli sistemleri uyumlu tutmak, tüm alanın ele alması gereken bir zorluktur."

OpenAI, hem en gelişmiş yapay zeka modellerini geliştirmek hem de ABD borsasında halka arz olmak için rakibi Anthropic ile kıyasıya bir yarış içinde. Her iki şirket de modellerinin yeteneklerinin ilerleme hızını vurgulayarak, hem hızı hem de tehlikeyi vurguladı.

OpenAI ise, yakında piyasaya sürülecek yapay zeka modeli Astra'nın yeteneklerinin, "kritik siber güvenlik eşiği" olarak adlandırdığı noktaya yaklaştığını ve bu nedenle geliştirme sürecini yavaşlatma kararı aldığını açıkladı. 

Şirket geçen hafta yaptığı açıklamada, "Son birkaç gündür, yakında piyasaya sürülecek modellerimizden biri olan Astra'nın son iç değerlendirmelerimiz, ajan kodlaması ve siber güvenlikte önemli ilerlemeler olduğunu gösteriyor" dedi. 

Yapay zeka modellerinin geliştirilmesini yavaşlatma kararı, Vermont Senatörü Bernie Sanders'ın, ülkedeki en büyük yapay zeka şirketlerinin teknoloji üzerindeki kontrolü kaybettikleri gerekçesiyle geliştirme çalışmalarını durdurmalarını talep etmesinden bir hafta sonra geldi. 

Sanders, şirketlerin CEO'larına yazdığı mektupta, "Sayın Altman, Sayın Amodei ve Sayın Zuckerberg: İnsanlığın iyiliği için sözlerinizin arkasında durun. Yapay zeka geliştirme çalışmalarını durdurun" ifadelerini kullandı.

O zamana kadar OpenAI, Hugging Face teknoloji şirketinin hacklenmesine yanıt olarak en yeni modeli Astra'nın geliştirme sürecini geçici olarak yavaşlattığını duyurmuştu.

Şirket, artık "Astra içeren iş yükleri için en sıkı güvenlik önlemlerini" gerektirdiğini belirtiyor.

Açıklamada, "Bazı Astra eğitimleri ve değerlendirmeleri bu gereksinimleri karşılarken, önemli sayıda iş yükü, yeni güvenlik standardını karşılayacak şekilde tamamen taşınana ve geliştirilene kadar askıya alınmış durumda kalacak" deniliyor.

The Guardian