Uzmanlar neden yapay zekânın hackerlar lehine dengeleri değiştirebileceğinden korkuyor?
Anthropic, hackleme endişeleri nedeniyle en gelişmiş modelini kamuya açmıyor.
Uzmanlar, benzer araçların yaygınlaşmasının ise sadece zaman meselesi olduğunu söylüyor.
Yapay zekâ, yazılım açıklarını tespit etme konusunda daha yetenekli hale geldikçe, uzmanlar giderek daha fazla potansiyel bir felaket senaryosu konusunda uyarıyor: “Vulnpocalypse” (zafiyet kıyameti).
Siber güvenlik araştırmacılarına göre hackerlar, savunma sistemlerindeki açıkları bulmak üzere tasarlanmış yapay zekâ teknolojileriyle saldırılarını hızla güçlendirebilir.
Bu hafta, bu senaryo daha az teorik görünmeye başladı.
Anthropic, “Mythos Preview” adlı son modelini, yanlış ellere geçtiğinde ciddi zararlar verebilecek benzeri görülmemiş açık bulma kabiliyetleri nedeniyle kamuya sunmayacağını açıkladı.
Şirket bunun yerine modeli, savunmaları güçlendirmeye yardımcı olmaları için sınırlı sayıda teknoloji devi ve ortakla paylaşıyor.
Endişe, devletin en üst seviyelerine kadar ulaşmış durumda.
Scott Bessent, Anthropic’in duyurusunun ardından bu hafta büyük finans kuruluşlarıyla bir toplantı düzenleyerek “yapay zekâ alanındaki hızlı gelişmeleri” ele aldı.
Bazı uzmanlara göre yapay zekâ; hackerların finans sistemlerini çökertmesine, hastaneleri ve üretim tesislerini kilitlemesine yardımcı olabilir.
İran gibi ülkelerin ABD’nin kritik altyapılarını devre dışı bırakmasına veya yolcuları ve internet kullanıcılarını etkileyen geniş çaplı sistem kesintilerine yol açmasına da katkı sağlayabilir.
Siber güvenlik platformu Bugcrowd’un kurucusu Casey Ellis, “İnsanların kabul etmek istediğinden çok daha fazla açık var; bunları düzeltmek zaten zordu, şimdi ise çok daha geniş bir tehdit kitlesi tarafından istismar edilmeleri çok daha kolay,” dedi.
“Yapay zekâ bu tür araçları çok daha fazla insanın eline veriyor.”
Hackerlar genellikle yazılımlardaki hataları kullanarak sistemlere sızar; bu da saldırganların yeni açıklar aradığı ve savunmacıların bunları kapatmaya çalıştığı bitmeyen bir mücadele yaratır.
Özellikle insan seviyesinde ya da daha iyi kod yazabilen bazı yapay zekâ modelleri, bu açıkları son derece hızlı şekilde tespit etmede oldukça başarılı.
Bu hafta, Anthropic’in Mythos modelini kamuya açmama kararı, yapay zekânın hackerlara “süper silah” sağlayabileceği yönündeki endişeleri zirveye taşıdı.
Ancak Mythos beklentileri karşılamasa bile, sektör uzmanları yakın zamanda bir “hesaplaşma dönemi” yaşanacağı konusunda hemfikir. Bu dönemde hackerlar, yapay zekâ sayesinde kurbanlarına karşı tarihte hiç olmadığı kadar avantaj elde edebilir.
Anthropic’te saldırı odaklı siber araştırmaları yöneten Logan Graham, Mythos hiç yayımlanmasa bile, Çin dahil diğer şirketlerin benzer kapasitede modeller geliştirmesinin beklendiğini söyledi.
Graham,“6 ila 12 ay içinde bu tür yeteneklerin yaygın hale geleceği bir dünyaya hazırlanmalıyız,” dedi.
Graham’a göre Mythos yalnızca açık bulmakla kalmıyor, aynı zamanda bu açıkları birleştirerek çok daha yıkıcı saldırı senaryoları oluşturabiliyor.
Luta Security CEO’su Katie Moussouris ise büyük bulut sağlayıcılarının çökmesi gibi senaryoların artabileceğini düşünüyor.
Moussouris, “Cloudflare ya da Amazon Web Services çöktüğünde pek çok sektör etkileniyor. Benzer büyük kesintileri daha sık göreceğiz,” dedi.
Eski FBI siber yetkilisi ve Halcyon yöneticisi Cynthia Kaiser ise, yapay zekânın daha az yetenekli hackerları bile güçlendireceği konusunda uyardı.
“Bir yıl önce bu tür saldırıları yapamayacak kişiler artık insanlığın gördüğü en güçlü araçlara sahip,” dedi.
Yapay zekâ ayrıca siber savaş ve kritik altyapılara yönelik saldırılar açısından da büyük etkiler yaratabilir.
ABD ile İran arasındaki savaş sırasında Tahran bağlantılı hackerlar çeşitli hedeflere saldırdı, ancak şimdiye kadar sınırlı başarı elde etti.
Stryker adlı Michigan merkezli bir şirkete yönelik saldırı, önemli hasar yaratan nadir örneklerden biri oldu.
Columbia University’de siber çatışmalar üzerine çalışan Jason Healey, yapay zekânın bu tür saldırıları kolaylaştırabileceğini belirtti:
“Su sistemleri gibi karmaşık altyapıları anlamak için nesiller boyu hacker yetiştirmek yerine, yapay zekâ bu süreci otomatikleştirebilir.”
Ancak Scythe kurucusu Bryson Bort’a göre kıyamet senaryosu abartılı olabilir.
Kritik altyapının önemli bir kısmı internetten izole olduğu için Hollywood tarzı felaketler pek olası değil.
Yine de doğru erişime sahip ısrarcı hackerlar, örneğin su arıtma tesisleri gibi sistemleri sürekli hedef alarak geçici kesintilere yol açabilir.
“Eğer sistem sürekli ihlal ediliyorsa, bir noktada çalışabilmesi için onu durdurmanız gerekir,” dedi.
NBC News
