AB, yasa dışı içerikler, uygulamalar ve görseller için önlem alacak
AB, yapay zekâ kaynaklı deepfake içerikler, yasa dışı görseller ve siber saldırılarla mücadele için Brüksel'de yeni ekip kuruyor
Avrupa Birliği, hızla gelişen yapay zekânın insanlar, siyaset ve ekonomi üzerindeki risklerine karşı şimdiye kadarki en kapsamlı denetim adımlarından birini hayata geçiriyor.
Avrupa Birliği, yapay zekâ şirketlerini denetlemek amacıyla yeni bir ekip oluşturduğunu cuma günü duyurdu.
Bu adım, hızla gelişen yapay zekâ teknolojisinin insanlar, demokratik süreçler ve ekonomik güvenlik üzerindeki oluşturduğu risklere yönelik bugüne kadar atılan en sert düzenleyici girişimlerden biri olarak değerlendiriliyor.
Brüksel yönetimi, yeni ekiple birlikte yapay zekâ modellerinin cinsel içerikli yasa dışı materyallerin yayımlanması, sahte fotoğraf ve videoların üretilmesi ile kamu altyapılarına yönelik siber tehditler gibi alanlarda AB'nin yeni kurallarını ihlal edip etmediğini takip etmeyi hedefliyor.
Pazar günü yürürlüğe girecek olan AB Yapay Zekâ Yasası (AI Act) kapsamında, yapay zekâ şirketleri sohbet botları veya görsellerin yapay zekâ tarafından üretildiğini tüketicilere etiketler veya dijital filigranlar (watermark) aracılığıyla açıkça belirtmek zorunda olacak.
AB'nin Teknoloji Egemenliği'nden sorumlu Başkan Yardımcısı Henna Virkkunen, konuya ilişkin yaptığı açıklamada şunları söyledi:
"Denetim süreci başlarken, insanların ve işletmelerin anlayabileceği, güvenebileceği ve faydalarının toplumun tamamıyla paylaşılacağı bir yapay zekâ ekosistemi için önemli bir adım atıyoruz."
Avrupa Komisyonu yaptığı açıklamada, yeni düzenlemelerin yapay zekânın oluşturabileceği "sistemik riskleri" de kapsadığını belirtti.
Komisyona göre bunlar arasında;
- kimyasal,
- biyolojik,
- radyolojik,
- nükleer olaylar,
- kontrol kaybı,
- siber saldırılar,
- zararlı manipülasyonlar
- ve temel haklara yönelik tehditler yer alıyor.
Brüksel'deki AI Ofisi büyüyor
Yeni ekip, 27 üyeli Avrupa Birliği'nin "teknoloji egemenliği" stratejisinin son halkasını oluşturuyor.
Bu strateji, kapsamlı dijital düzenlemeleri ekonomik hedeflerle birleştirirken, son günlerde büyük teknoloji şirketlerine milyarlarca avroluk para cezaları kesilmesi ve AB içerisinde yapay zekâ altyapısına rekor düzeyde yatırım yapılmasıyla dikkat çekmişti.
Yeni düzenlemeler, yapay zekâ güvenliğine ilişkin son dönemde yaşanan ciddi olayların hemen ardından geliyor. Dünya genelinde siyasi liderler, teknolojinin kontrolü ile küresel rekabet arasında denge kurmaya çalışıyor.
Anthropic, cuma günü yaptığı açıklamada, yapay zekâ modellerinin testler sırasında üç farklı kuruma sızmayı başardığını duyurdu.
Bu açıklama, OpenAI'ın birkaç gün önce kontrol dışına çıkan modellerinin başka bir şirkete siber saldırı gerçekleştirdiğini açıklamasının ardından geldi.
ABD ve Çinli şirketler de denetlenecek
Avrupa Birliği, Brüksel'deki Yapay Zekâ Ofisi'ni (AI Office) ilave 38 uzmanla güçlendiriyor.
Bu ekip;
- yeni kurulan yapay zekâ şirketlerini,
- OpenAI gibi ABD merkezli firmaları,
- DeepSeek gibi Çinli teknoloji şirketlerini
yakından denetleyecek.
Avrupa Komisyonu'na göre şirketler belirli teknik ve operasyonel bilgileri belgelemek zorunda olacak.
Komisyon ayrıca soruşturmalar sırasında şirket çalışanlarıyla doğrudan görüşme yapma yetkisini de elinde bulunduracak.
Bunun yanında iki yeni dijital araç da kullanıma sunuldu:
- Whistleblower Tool (İhbar Platformu): Teknoloji çalışanlarının yasa dışı uygulamaları gizli şekilde bildirebilmesini sağlayacak.
- Compliance Tool (Uyumluluk Aracı): Kullanıcıların olası ihlalleri gizlilik içinde yetkililere iletebilmesine imkân tanıyacak.
Yapay zekâ modelleri veya ürünlerinin AI Act hükümlerini ihlal etmesi halinde Avrupa Komisyonu şirketlere yüksek para cezaları uygulayabilecek veya bu ürünlerin AB pazarına erişimini tamamen engelleyebilecek.
ABD'li teknoloji şirketlerine son dönemde kesilen milyarlarca avroluk rekabet cezaları ise ABD Başkanı Donald Trump'ın tepkisini çekmişti.
Teknoloji egemenliği hedefi
Avrupa Birliği, Amazon, Google ve Microsoft gibi Amerikan yazılım şirketlerine olan yoğun bağımlılığının yanı sıra Çin'den ithal edilen sanayi ürünleri ve kritik minerallere yönelik bağımlılığını da artık stratejik bir kırılganlık olarak değerlendiriyor.
Bir yandan yapay zekânın oluşturduğu risklere karşı koruma sağlamaya çalışan AB, diğer yandan ABD ve Çin'in gerisinde kaldığı yapay zekâ yarışında aradaki farkı kapatmayı hedefliyor.
Daha geniş çerçevede ise Avrupa Birliği;
- üretim sanayii,
- savunma,
- ileri teknoloji
gibi alanlarda yerli kapasitesini güçlendirmeyi, Washington ve Pekin'e olan bağımlılığını azaltmayı ve Brezilya'dan Avustralya'ya kadar yeni ticaret anlaşmaları yaparak Donald Trump'ın öncülük ettiği küresel ekonomik milliyetçilik dönemine uyum sağlamayı amaçlıyor.
AP News
