OpenAI, Pentagon ile çalışacak

CEO Sam Altman, ordunun yapay zekâ ürününü otonom öldürme sistemleri ya da kitlesel gözetim için kullanmayacağını söylüyor. 

OpenAI, Donald Trump’ın hükümete şirketin başlıca rakiplerinden birinin hizmetlerini kullanmayı bırakma talimatı vermesinden saatler sonra, Pentagon’a gizli ABD askerî ağlarına yapay zekâ sağlamak üzere bir anlaşma yaptığını açıkladı.

OpenAI CEO’su Sam Altman bu adımı cuma gecesi duyurdu. Bu gelişme, Claude sistemini işleten rakip yapay zekâ şirketi Anthropic ile Trump yönetimi arasındaki anlaşmanın, Anthropic’in teknolojisinin kitlesel gözetim için ya da insan müdahalesi olmadan öldürebilen otonom silah sistemlerinde kullanılmayacağına dair güvence talep etmesinin ardından bozulması üzerine geldi.

Anlaşmayı duyuran Altman, OpenAI’nin hükümetle yaptığı sözleşmenin bu amaçlarla kullanılmayacağına dair güvenceler içerdiğini vurguladı. 

• Altman, X’te yaptığı paylaşımda, “En önemli iki güvenlik ilkemiz, ülke içinde kitlesel gözetimin yasaklanması ve otonom silah sistemleri de dahil olmak üzere güç kullanımında insan sorumluluğunun korunmasıdır,” diye yazdı. 
• Pentagon’un “bu ilkelerle hemfikir olduğunu, bunları yasa ve politikalarına yansıttığını ve bizim de bunları sözleşmemize koyduğumuzu” ekledi.
• Altman ayrıca Pentagon’un “hukuki ve idari adımlar yerine makul anlaşmalara yönelmek” amacıyla “aynı şartları tüm yapay zekâ şirketlerine sunmasını” umduğunu söyledi.

Eğer OpenAI’nin anlaşması sistemlerinin etik dışı amaçlarla kullanılmasını gerçekten yasaklıyorsa, şirketin Anthropic’in başaramadığı güvenceleri elde etmiş olduğu anlaşılıyor.

Altman, başkanın tüm federal kurumlara Anthropic teknolojisinin kullanımını “DERHAL DURDURMA” talimatı vereceğini söylemesinden kısa süre sonra hükümetle yapılan anlaşmayı duyurdu.

Pentagon, Anthropic’ten yapay zekâ sistemlerine ilişkin etik yönergeleri gevşetmesini istemiş, aksi hâlde ciddi sonuçlarla karşılaşabileceğini bildirmişti.

Trump, Truth Social platformunda şunları yazdı: “Anthropic’teki solcu fanatikler, [Pentagon’a] zorbalık yapmaya ve onları Anayasamız yerine kendi Hizmet Şartlarına uymaya zorlamaya çalışarak FELAKET bir HATA yaptılar.”

OpenAI çalışanlarının hükümetle yapılan anlaşmaya nasıl tepki vereceği ise henüz belirsiz. Trump yönetimiyle yaşadığı mücadelede Anthropic, en sert rakiplerinden destek gördü. Yaklaşık 500 OpenAI ve Google çalışanı “bölünmeyeceğiz” ifadesini içeren açık mektuba imza attı.

Mektupta, “Pentagon, Google ve OpenAI ile görüşerek onları Anthropic’in reddettiği şartları kabul etmeye ikna etmeye çalışıyor,” denildi. “Her şirketi, diğerinin geri adım atacağı korkusuyla bölmeye çalışıyorlar.”

Altman, cuma gecesi çalışanlara gönderdiği ve Axios tarafından elde edilen notta OpenAI personelini rahatlatmaya çalıştı.

“Buraya nasıl geldiğimizden bağımsız olarak, bu artık yalnızca Anthropic ile [Pentagon] arasındaki bir mesele değil; tüm sektör için bir mesele ve duruşumuzu netleştirmemiz önemli,” diye yazdı. 

“Yapay zekânın kitlesel gözetim ya da otonom ölümcül silahlar için kullanılmaması gerektiğine ve yüksek riskli otomatik kararlarda insanların sürecin içinde kalması gerektiğine uzun süredir inanıyoruz. Bunlar bizim temel kırmızı çizgilerimiz.”

Altman şöyle devam etti: “Modellerimizin gizli ortamlarda konuşlandırılmasına izin veren ve ilkelerimizle uyumlu bir [Pentagon] anlaşmasının mümkün olup olmadığını göreceğiz.

Sözleşmenin, ülke içi gözetim ve otonom saldırı silahları gibi hukuka aykırı veya bulut dağıtımına uygun olmayan kullanımlar hariç tüm kullanımları kapsamasını talep edeceğiz.”

Kendini önde gelen yapay zekâ şirketleri arasında güvenliğe en fazla önem veren firma olarak tanıtan Anthropic, aylardır Pentagon’la anlaşmazlık yaşıyordu. 

ABD savunma yetkilileri, ülkeyi korumaya yardımcı olabileceğini söyledikleri Claude’un yeteneklerine sınırsız erişim talep etmişti. Buna karşılık Anthropic, ürününün kitlesel gözetim ya da insanların otonom olarak öldürülmesini sağlayan silah sistemlerinde kullanılmasına izin vermemekte direniyordu.

Anthropic cuma gecesi yaptığı açıklamada, “Pentagon’dan gelen hiçbir baskı ya da cezalandırma, ülke içinde kitlesel gözetim ya da tamamen otonom silahlar konusundaki tutumumuzu değiştirmeyecek,” dedi.

Şirket açıklamasında şöyle devam etti: “Pentagon ile iyi niyetli biçimde bir anlaşmaya varmaya çalıştık; yukarıda belirtilen iki dar istisna dışında ulusal güvenlik için yapay zekânın tüm yasal kullanımlarını desteklediğimizi açıkça belirttik. Bildiğimiz kadarıyla bu istisnalar bugüne kadar tek bir hükümet görevini dahi etkilemedi.”

OpenAI cuma günü yaptığı açıklamada, şirketi 840 milyar dolar değerlemeye ulaştıracak 110 milyar dolarlık dev bir finansman turu yürüttüğünü duyurdu.

The Guardian