Nvidia, yeni yazılım platformu geliştirdi

Nvidia, yapay zekâ geliştiricilerinin ajanlar için güvenlik önlemleri belirlemesine ve bu ajanların içinde bulundukları yalıtılmış ortamlardan çıkarak kontrolden çıkmasını önlemesine olanak sağlayacak yeni bir yazılım platformunu kullanıma sunuyor.

Nvidia’nın Open Agent Safety Platform adlı platformunu pazartesi günü kullanıma sunması, aralarında OpenAI, Anthropic, Meta ve Google’ın da bulunduğu şirketlerin yapay zekâ modellerinin korumalı çalışma ortamlarından çıktığı ve başka şirketleri hacklemeye ve bilgisayar sistemlerine erişmeye çalıştığı yakın tarihli olayları açıklamasının ardından geldi.

Nvidia CEO’su Jensen Huang, pazartesi günü CNBC’nin “Squawk Box” programına yaptığı açıklamada, platformun esas olarak modern bir tarayıcı olduğunu ve “ajanlar için bir tarayıcı” işlevi gördüğünü söyledi.

Huang, CNBC’ye, “Ajanların şirket içinde başıboş dolaşmasına ve kontrolsüz biçimde hareket etmesine izin veremezsiniz. Dolayısıyla onları bir kapsayıcı içinde tutmanın bir yolunu bulmanız gerekiyor” dedi.

Nvidia temsilcisi, pazar günü gazetecilerle yapılan bir görüşmede, şirketin platformunun OpenAI’ın temmuz ayında yaşadığı Hugging Face olayını önleyebileceğini söyledi. Söz konusu olayda OpenAI modelleri yalıtılmış ortamdan çıkarak açık internete erişmiş ve açık kaynaklı geliştirici platformunu işleten Hugging Face’in sistemlerine sızmıştı.

Dünyanın en değerli şirketi Nvidia’nın kurumsal yapay zekâdan sorumlu başkan yardımcısı Justin Boitano, “Her güvenlik olayı kendine özgüdür ve bunların tamamını ayrıntılı biçimde incelememiz gerekiyor” dedi.

Boitano, “Bildiğimiz kadarıyla Hugging Face, altyapılarına saldıran 17 binden fazla ajan tespit etti ve bu faaliyet günler ve haftalar boyunca devam etti” diye konuştu.

Nvidia, yaklaşık dört yıl önce ChatGPT’nin piyasaya sürülmesinden bu yana üretken yapay zekâ patlamasının merkezinde yer alıyor. Şirketin grafik işlem birimleri (GPU), büyük dil modellerinin geliştirilmesi ve büyük ölçekli bulut hizmeti sağlayıcılarının sunduğu yapay zekâ hizmetleri açısından kritik öneme sahip.

Ancak Huang son dönemde yapay zekâ güvenliği tartışmalarında da önemli bir ses hâline geldi. Huang, güvenlikle ilgili endişelerin çoğunun bilgisayar bilimi ve ürün geliştirme yoluyla çözülebilecek mühendislik sorunları olduğunu savunuyor.

Huang, geçen hafta yayımlanan ve The New York Times yazarı Ezra Klein ile yaptığı bir podcast yayınında yakın dönemdeki olaylara atıfta bulunarak, “Ne yapmış olabileceğinizi, bunun çözümünün ne olduğunu düşünmeniz gerekiyor. Gelecekte sürecinizi geliştirerek bunun yeniden yaşanmasını önleyebilmelisiniz” dedi.

Anthropic CEO’su Dario Amodei, iki hafta önce sektörde büyük bir tartışma başlattı. Amodei, yapay zekâ modellerinin kontrolden çıkabileceği endişeleri nedeniyle model geliştiricilerinin teknolojik ilerlemenin hızını yavaşlatması gerektiğini savundu. Bu görüş OpenAI CEO’su Sam Altman ve SpaceX CEO’su Elon Musk tarafından da desteklendi.

Boitano, Nvidia’nın yeni ürününün yapay zekâ ajanlarının güvenliği sorununa yönelik bir mühendislik çözümü olduğunu söyledi.

Boitano, “Son dönemde yaşanan olaylar, yapay zekâ ajanları açısından temel bir engeli ortaya koydu. O da yalnızca model düzeyindeki güvenlik önlemlerinin ajanların neye erişebileceğini veya ne yapabileceğini kontrol etmeye yetmemesi” dedi.

Platformun bileşenlerinden biri Nvidia OpenShell olarak adlandırılıyor. Merkezi işlemciler üzerinde çalışan OpenShell, ajanların yeteneklerine sınırlar getiriyor.

Nvidia ayrıca Sentry adlı bir sistem de duyurdu. Sentry, ajanları izliyor ve CPU veya GPU’lar yerine ağ çipleri üzerinde çalışıyor.

Yazılımın bir bölümü açık kaynak olarak sunuluyor. Nvidia platformunu aynı zamanda bir referans tasarım olarak tanımlıyor. Bu, iş ortaklarının platform üzerine kendi ürünlerini geliştirerek bunları pazara sunmasının amaçlandığı anlamına geliyor.

Nvidia, iş ortakları arasında Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM ve Intel’i saydı.

Nvidia ayrıca Anthropic ile birlikte, bulut ortamında yönetilen ajanların OpenShell ile entegre edilmesi üzerinde çalışıyor.

Huang pazartesi günü CNBC’ye yaptığı açıklamada, “Dünyanın güvenli biçimde geliştirildiğine ve güvenli bir şekilde kullanıma sunulduğuna inanmaması ya da bundan emin olmaması hâlinde başarılı bir yapay zekâ sektörüne sahip olamayız” dedi.

CNBC