BM'de Altman ve Amodei Beklentisi
BM Güvenlik Konseyi'nin yapay zekâ toplantısına katılması bekleniyor
OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei'nin, bu hafta yapay zekâ konulu bir toplantı için Birleşmiş Milletler Güvenlik Konseyi'ne hitap etmesi bekleniyor. Bir BM sözcüsü Salı günü bu bilgiyi doğruladı.
BM Genel Sekreteri Sözcüsü Stéphane Dujarric, Hugging Face CEO'su Clément Delangue'nin de toplantıya katılmasının beklendiğini söyledi. Montreal Üniversitesi'nde profesör olan ve Birleşmiş Milletler Yapay Zekâ Bağımsız Uluslararası Bilimsel Paneli'nin eş başkanlığını yürüten Yoshua Bengio da toplantıya katılacak.
Bloomberg'in haberine göre toplantının Çarşamba günü gerçekleştirilmesi planlanıyor. Haberi ilk olarak Bloomberg duyurdu.
Bu hafta New York'ta gerçekleştirilen BM Genel Kurulu, araştırmacıların yapay zekânın insanlık açısından oluşturduğu ciddi risklere ilişkin uyarılarının ardından, yapay zekânın güvenliği ve düzenlenmesine yönelik tartışmaların kritik bir noktaya ulaştığı bir döneme denk geliyor.
Geçtiğimiz hafta boyunca bu uyarıları defalarca “aldatmaca” ve “sahtekârlık” olarak nitelendiren Başkan Donald Trump, Salı günü Genel Kurul'a hitap etti ve Amodei ile Altman'ın ileri düzey modellerin geliştirilmesinde daha temkinli hareket edilmesi yönündeki çağrılarına rağmen yeni gelişen teknolojiyi “teşvik etme” sözü verdi.
Trump, “Sanayi devriminden daha büyük olacak bir şeyin büyümesini engellemeyeceğim” dedi. “Birçok kişi bunun sanayi devriminden veya internetin kendisinden daha büyük olacağını söylüyor.”
OpenAI'nin temmuz ayında yaptığı açıklamada, şirketin yapay zekâ modellerinin bir test ortamından çıkarak açık kaynaklı geliştirici platformu Hugging Face'e otonom biçimde sızdığı ve saldırı gerçekleştirdiği ortaya çıkmıştı. Bu olay, ileri düzey modellerin yükselişi ve bu modellerin ne ölçüde kontrol altında tutulabileceği konusunda yeni bir endişe dalgasını tetiklemişti.
O tarihten bu yana Anthropic de kendi modelleriyle bağlantılı siber olayları açıkladı. OpenAI ise otonom ajanlarının sergilediği başka “endişe verici model davranışlarını” kamuoyuna duyurdu.
Geçen hafta ise Google, Gemini modelinin üç farklı şirkete yönelik siber saldırı gerçekleştirdiğini açıkladı.
CNBC
