Kişisel veriler demokrasinin yeni savaş alanı

Frank H. McCourt Jr., Amerikalı bir iş insanı ve sivil girişimcidir. 

Dijital çağda insanlara kişisel verileri üzerinde sahiplik ve kontrol vererek bireysel iradeyi yeniden tesis etmeyi amaçlayan küresel bir girişim olan Project Liberty’nin kurucusudur.

Soğuk Savaş’ın zirve döneminde Ewald-Heinrich von Kleist-Schmenzin adlı bir adam, Batı’nın önde gelen güvenlik uzmanlarını Münih’te bir araya getirdi. II. Dünya Savaşı’nda direniş savaşçısı ve Hitler’i devirmeye çalışan Stauffenberg çevresinin bir üyesi olan von Kleist-Schmenzin’in amacı basitti: Üçüncü Dünya Savaşı’nı önlemek. 

McCourt Jr., Hayatının geri kalanını açık diyaloğu teşvik etmeye, savunma stratejilerini paylaşmaya ve gerilimi düşürmeye adadı.

Yarın, küresel liderler bir kez daha yıllık Münih Güvenlik Konferansı için bir araya gelirken, karşı karşıya oldukları tehditler yaklaşık 60 yıl öncesine kıyasla daha az derin değil — ancak birçoğu çok daha az görünür. Evet, kıtalar boyunca savaşlar sürüyor, ittifaklar sınanıyor ve sınırlar ile okyanuslar boyunca gerilim tırmanıyor. 

Ancak iddia ediyorum ki von Kleist-Schmenzin bugün hayatta olsaydı, zamanımızın en belirleyici mücadelesinin geleneksel savaş alanlarında yaşanmadığı konusunda hemfikir olurdu. Bu mücadele dijital alanda yaşanıyor; kişisel verilerimiz — dijital kimliğimiz — üzerindeki kontrol, modern dünyada güç ve etkinin temel kaynağı haline gelmiş durumda.

World Wide Web doğduğunda bize demokratik katılım çağı vaat edilmişti — yeni milenyum için dijital bir kent meydanı. Bunun yerine ortaya çıkan şey çok daha karanlık oldu: Sivil toplumu parçalayan, gerçeği çarpıtan ve komşuyu komşuya düşüren yırtıcı algoritmalar; üstelik dünyanın en zengin birkaç şirketi, herhangi bir istihbarat kurumunun bile bilemeyeceği kadar çok şeyi hakkımızda biliyor.

İnternetin toplum üzerindeki mutlak etkisini derinden hissediyoruz. Ulusal düzeyde bunu kutuplaşma ve yanlış bilginin toplumsal dokuyu yıpratması, seçimleri altüst etmesi ve dünya düzenini sarsması şeklinde görüyoruz. 

Evlerimizde ise yapay zekâ botlarının ve kutuplaştırıcı seslerin çocuklarımızın zihinsel ve sosyal sağlığını hedef aldığını hissediyoruz.

Bu kriz bir tesadüf değil. Bu, Büyük Teknoloji’nin bilinçli olarak inşa ettiği dünya.

Facebook’un “beğen” düğmesini tanıttığı andan itibaren internet, sınırsız bir bilgi deposu olmaktan çıkıp öfke, bağımlılık ve kâr için optimize edilmiş bir sisteme dönüşmeye başladı — bölünmeyi ödüllendiren ve gerçeği hiçe sayan bir sisteme.

İş modeli oldukça basit: Algoritmalar bizi bilgilendirmek ya da birbirimize bağlamak yerine dikkatimizi yakalamak ve sömürmek üzere tasarlanıyor. Hisse senedi fiyatları açısından bakıldığında bu model son derece başarılı oldu. 

Büyük teknoloji şirketleri rekor sürede trilyonlarca dolar biriktirdi. Bunu da insanlık tarihinin en değerli kaynağını — kişisel verilerimizi — toplayarak yaptılar. Öyle bir gözetim düzeni kurdular ki Doğu Almanya’nın gizli polisi Stasi’yi bile utandıracak düzeyde.

Şimdi yapay zekânın yükselişiyle birlikte aynı şirketler bize yeni bir hikâye sunuyor: İnternet için katlanarak daha güçlü ve sözde hayırsever yeni bir dönem. 

Ancak temel mantık değişmedi. Bu sistemler hâlâ daha fazla veri toplamak, daha fazla kontrol kurmak ve manipülasyonu derinleştirmek için tasarlanıyor — üstelik eşi görülmemiş bir ölçekte.

Tehdit özellikle “ajan temelli internet”in ortaya çıkışıyla büyüdü. Bu yeni dönemde otonom yapay zekâ sistemleri artık yalnızca bilgiyi yorumlamakla kalmıyor; çoğu zaman yetersiz denetim ve uyum önlemleriyle hareket etme yetkisine de sahip oluyor. 

Açık kaynaklı otonom yapay zekâ asistanı OpenClaw, tüketimden yetki devrine doğru yaşanan bu hızlı geçişi açıkça gösteriyor: İnsanlar geniş kapsamlı izinler vererek bu ajanların diğer ajanlarla gerçek zamanlı etkileşime girip serbestçe faaliyet göstermesine olanak tanıyor. 

Bu da gerçek dünyada zarara maruz kalma riskini, kötü niyetli aktörlerin koordineli manipülasyonunu ve insan kontrolünün azalmasını dramatik biçimde artırıyor.

Buna rağmen, bu güç yoğunlaşmasına ve güvenlik risklerine dikkat çekenler hızla “ilerleme karşıtı” olmakla ya da yapay zekânın geleceğini Çin’e bırakmakla suçlanıyor. Açık olalım: Çin’i, Çin’e benzemeye çalışarak yenemeyiz. 

Otoriter algoritmalar, merkezi güç ve kitlesel gözetim demokrasiyle temelden bağdaşmaz. Von Kleist-Schmenzin bugünün yapay zekâ çerçevelerine baksa, muhtemelen bunların Berlin Duvarı’nın batısından çok doğusuna yakın olduğunu görürdü.

Bu tabloyu tersine çevirmek için bireysel haklara saygı gösteren, kişisel verilerin sahipliğini ve kontrolünü bireylere geri veren ve demokratik ilkelerle uyumlu alternatif sistemler inşa etmeliyiz. Hayatlarımızı şekillendiren teknolojiler, vatandaşları tehlikeye atmak yerine korumak için optimize edilmelidir.

İyi haber şu: Bu teknoloji zaten inşa ediliyor. 

Dünyanın dört bir yanında önde gelen teknoloji uzmanları, üniversiteler, şirketler ve hükümetler; kamu sektörü ve sivil toplum tarafından yönetilen, açık kaynaklı ve şeffaf sistemlere dayalı yeni bir yapay zekâ paradigması oluşturmak için çalışıyor. 

Project Liberty, bu çabanın bir parçası ve basit bir inanca dayanıyor: "Temel demokratik değerlerle uyumlu yapay zekâ teknolojisini inşa edebiliriz ve inşa etmek zorundayız."

Geliştirilmiş bu yapay zekâ mimarisi insanın gelişimini esas alır. İnsanlara bu platformların nasıl çalıştığı konusunda söz hakkı verecek, verilerinin nasıl kullanıldığına dair gerçek seçenekler sunacak ve çevrim içi yarattıkları ekonomik değerden pay almalarını sağlayacaktır. 

Aynı zamanda demokrasiyi, özgürlüğü ve güveni koruyan politika ve yönetişim çerçeveleriyle desteklenecektir.

Dünya liderleri Münih’te toplanırken, onları Batı değerlerini içeren ve gelecek nesilleri koruyan yapay zekâ için daha sağlam bir temel oluşturmaya çağırıyorum. 

Von Kleist-Schmenzin’in kurtarmaya çalıştığı dünyayı hatırlasınlar ve demokrasinin yeni savaş alanında bizimle birlikte yer alsınlar.

Politico