Yapay zekâ destekli siber saldırılar, sadece üç ay içinde yeni ortaya çıkan bir sorun olmaktan çıkıp endüstriyel ölçekte bir tehdide dönüştü.
Bu değerlendirme, Google’ın tehdit istihbaratı grubunun yayımladığı raporda yer aldı.
Rapora göre, en yeni yapay zekâ modellerinin kod yazma konusundaki yüksek yetkinliği, onları çok çeşitli yazılım sistemlerindeki açıkları istismar etmek için son derece güçlü araçlara dönüştürüyor.
Çalışma, suç gruplarının yanı sıra Çin, Kuzey Kore ve Rusya bağlantılı aktörlerin; Gemini, Claude ve OpenAI araçları gibi ticari modelleri yaygın şekilde kullanarak saldırılarını geliştirdiğini ve ölçeklendirdiğini ortaya koyuyor.
Grubun baş analisti John Hultquist, “Yapay zekâ güvenlik açığı yarışının yakında başlayacağına dair bir yanlış algı var. Gerçek şu ki bu yarış zaten başladı,” dedi.
“Tehdit aktörleri, saldırılarının hızını, ölçeğini ve sofistikasyonunu artırmak için yapay zekâyı kullanıyor.
Bu sayede operasyonlarını test edebiliyor, hedeflere karşı daha kalıcı olabiliyor, daha iyi kötü amaçlı yazılımlar geliştirebiliyor ve birçok başka iyileştirme yapabiliyorlar.”
Geçtiğimiz ay Anthropic, son modellerinden biri olan Mythos’u yayımlamayı reddetmiş ve modelin son derece güçlü yeteneklere sahip olduğunu, yanlış ellere geçmesi durumunda hükümetler, finansal kurumlar ve genel olarak dünya için tehdit oluşturabileceğini belirtmişti.
Şirket, Mythos’un “her büyük işletim sistemi ve her büyük web tarayıcısında” sıfır gün (zero-day) açıkları tespit ettiğini açıklamıştı — yani geliştiricilerin daha önce bilmediği güvenlik açıkları.
Anthropic, bu keşiflerin “sektör genelinde kapsamlı ve koordineli savunma önlemleri” gerektirdiğini söyledi.
Ancak Google’ın raporu, yakın zamanda bir suç grubunun bir sıfır gün açığını kullanarak “kitlesel istismar” kampanyası başlatmanın eşiğine geldiğini ve bu grubun Mythos dışındaki bir büyük dil modeli kullandığını ortaya koydu.
Raporda ayrıca grupların, Şubat ayında kullanıcıların hayatlarının büyük bölümlerini bir yapay zekâ ajana teslim etmesine imkân tanımasıyla viral olan OpenClaw adlı aracı da “denediği” belirtildi.
Bu araç, kontrol mekanizmalarının zayıflığı ve e-posta kutularını topluca silme eğilimi nedeniyle eleştirilmişti.
Steven Murdoch (University College London), yapay zekâ araçlarının siber güvenlikte hem savunma tarafına hem de hackerlara yardımcı olabileceğini söyledi.
“Bu yüzden panik yapmıyorum. Genel olarak hataların keşfedilmesinde eski yöntemlerin sona erdiği ve artık her şeyin büyük dil modelleriyle destekleneceği bir aşamaya geldik. Bunun sonuçlarının netleşmesi biraz zaman alacak,” dedi.
Ancak yapay zekâ, hackerların üretkenliğini artırırken, bunun genel ekonomi üzerindeki etkisi konusunda şüpheler sürüyor.
Bağımsız bir araştırma kuruluşu olan Ada Lovelace Institute (ALI), yapay zekânın kamu sektöründe milyarlarca sterlinlik verimlilik artışı sağlayacağına dair varsayımlar konusunda uyarıda bulundu.
Birleşik Krallık hükümeti, dijital araçlar ve yapay zekâ yatırımlarından 45 milyar sterlinlik tasarruf ve verimlilik kazanımı öngörmüştü.
Ancak ALI’nin Pazartesi yayımlanan raporu, çoğu çalışmanın yalnızca zaman tasarrufu veya maliyet düşüşlerine odaklandığını, daha iyi hizmetler veya çalışan refahı gibi sonuçları yeterince incelemediğini belirtiyor.
Rapora göre sorunlu noktalar arasında şunlar yer alıyor:
İş yerlerinde yapay zekâ verimliliğine dair projeksiyonların gerçek dünyada ne kadar karşılık bulduğu; genel rakamların farklı görevlerdeki değişken sonuçları gizlemesi; ve kamu sektörü istihdamı ile hizmet sunumu üzerindeki etkilerin yeterince hesaba katılmaması.
ALI raporunda, “Hükümetlerin yapay zekâya ilişkin büyük kararlarını şekillendiren verimlilik tahminleri bazen test edilmemiş varsayımlara dayanıyor ve bu tahminlerin sınırlılıkları her zaman yeterince anlaşılmıyor,” denildi.
“Sonuç olarak, verimlilik iddialarının sunuluşundaki güven ile bu iddiaları destekleyen kanıtların gücü arasında bir boşluk oluşuyor.”
Raporun önerileri arasında; gelecekteki çalışmaların belirsizlikleri daha iyi yansıtması, kamu kurumlarının yapay zekâ programlarının etkisini en baştan ölçmesi ve haftalar yerine yıllar boyunca verimlilik kazanımlarını inceleyen uzun vadeli araştırmaların desteklenmesi yer alıyor.
The Guardian
