Komisyon, Yapay Zekâ Yasası'nın Uygulanması İçin Yetkilerini Devreye Aldı
Yapay Zekâ Yasası'nın uygulanmasını denetleyen Yapay Zekâ Ofisi, uyum ve güvenlik birimlerine daha fazla sözleşmeli personel almayı planlıyor.
Avrupa Komisyonu'na bağlı Yapay Zekâ Ofisi (AI Office), 2 Ağustos itibarıyla Avrupa Birliği'nin Yapay Zekâ Yasası'nı (AI Act) uygulama ve denetleme yetkisini resmen kullanmaya başlayacak.
Yasa hükümleri, belirli yapay zekâ uygulamalarına yönelik yasakların yürürlüğe girdiği Şubat 2025'ten bu yana aşamalı olarak uygulanıyordu.
Ancak bugüne kadar Yapay Zekâ Ofisi, yasa kapsamındaki yükümlülükler konusunda yapay zekâ geliştiricileriyle yalnızca gayriresmî temaslarda bulunuyordu.
Pazar gününden itibaren ise Avrupa Komisyonu resmî denetim ve yaptırım süreçlerini başlatabilecek.
Komisyonun bu yetkileri tam anlamıyla devralması, son haftalarda OpenAI ve Anthropic gibi öncü yapay zekâ laboratuvarlarında yaşanan dikkat çekici güvenlik olayları nedeniyle özellikle kritik bir döneme denk geliyor.
OpenAI, temmuz ayının ortasında yaptığı açıklamada, modellerinden birinin test ortamından çıkarak başka bir yapay zekâ şirketi olan Hugging Face sistemlerine sızdığını bildirmişti. Cuma günü ise Anthropic, siber güvenlik odaklı yapay zekâ modellerinde benzer olayların yaşandığını duyurdu.
Avrupa Komisyonu yetkilileri, söz konusu olayların kamuoyuna açıklanmadan önce Komisyonun bilgilendirildiğini Cuma günü doğruladı.
Pazar gününden itibaren Komisyon, bu tür olaylarla ilgili daha kapsamlı soruşturmalar başlatabilecek.
Komisyon, bir yapay zekâ geliştiricisinin sistemlerinin oluşturduğu riskleri değerlendirme ve azaltmaya yönelik yasal yükümlülüklerini yerine getirmediğine karar verirse; ilgili teknolojide değişiklik yapılmasını talep edebilecek, para cezası uygulayabilecek veya en ileri aşamada ilgili ürünün AB pazarına erişimini engelleyebilecek.
Deepfake endişeleri de gündemde
Son günlerde Hugging Face ile ilgili farklı bir yapay zekâ güvenliği sorunu da Yapay Zekâ Ofisi'nin dikkatini çekti.
AIForensics araştırmacıları tarafından yayımlanan bir raporda, açık kaynaklı model barındırma platformunun, bünyesinde yer alan modellerin rıza dışı mahrem içerikler üretmesini engelleyecek yeterli koruma mekanizmalarına sahip olmadığı öne sürüldü. Raporda özellikle çocuklara ait cinselleştirilmiş sahte görüntüler (deepfake) üretilebilmesine dikkat çekildi.
Ancak bu tür yapay zekâ uygulamalarına yönelik yasaklar, AI Omnibus düzenlemesi kapsamında Yapay Zekâ Yasası'na eklenen hükümler doğrultusunda Aralık ayında yürürlüğe girecek.
Yapay Zekâ Ofisi personelini büyütüyor
Denetim yetkilerinin başlamasıyla birlikte Yapay Zekâ Ofisi, insan kaynağını da genişletmeye hazırlanıyor.
Hâlihazırda ofiste 145 personel görev yaparken, bunların yalnızca 34'ü doğrudan düzenleme ve mevzuata uyum alanında çalışıyor.
Avrupa Komisyonu, 2027 yılına kadar düzenleme, uyum ve yapay zekâ güvenliği birimlerinde görevlendirilmek üzere 40 yeni sözleşmeli personel istihdam etmeyi planlıyor.
Bunun yanında, bilimsel uzmanlardan oluşan bir ekip de hem Avrupa Komisyonu'na hem de ulusal otoritelere uygulama süreçlerinde teknik danışmanlık sağlıyor.
Komisyon ayrıca Oxford Üniversitesi öğretim üyesi Prof. Alessandro Abate'yi baş bilimsel danışman olarak görevlendirdi.
Abate'nin, özellikle yapay zekâ modellerinin teknik değerlendirilmesi ve güvenlik analizleri konusunda Avrupa Komisyonu'nun çalışmalarına önemli katkı sağlaması bekleniyor.
Euractiv
