Sessiz aşınmanın ise yok
Yapay zekânın en büyük riski, bizim için ne yaptığı değil; kendimiz yapmayı bırakmamıza neden olduğu şeylerdir.
Bu ayın başlarında Washington, ulusal güvenlik gerekçesiyle en güçlü yapay zekâ modelini bir gecede devre dışı bıraktı.
Aynı dönemde Brüksel ise kendi yapay zekâ düzenlemelerinin ne kadarını yürürlüğe koyacağına, ne kadarını erteleyeceğine ilişkin tartışmalar yürütüyordu. Her iki başkent de yapay zekânın bizim için neler yapabileceğini dikkatle izliyor. Hiçbiri ise yapay zekânın bize neler yaptığını izlemiyor.
Avrupa’daki tartışma iki kampa ayrılmış durumda. Bir taraf makineyi daha sıkı düzenlemek istiyor; diğer taraf ise ABD ve Çin ile arasındaki verimlilik farkına işaret ederek kuralları gevşetmeyi ve teknolojiyi daha hızlı benimsemeyi savunuyor.
Yapay Zekâ Yasası'nın (AI Act) en ağır yükümlülüklerini, yasanın geri kalanı bu ağustos ayında yürürlüğe girerken erteleyen Digital Omnibus, bu tartışmanın uzlaşma noktası oldu.
Her iki taraf da aynı konu hakkında tartışıyor: makine, onun önyargıları, riskleri, şeffaflığı ve rekabet gücü. Bunların hiçbiri yanlış değil. Bunlar gerçek tehlikeler ve görünür olanlar. Ancak bunlar resmin yalnızca yarısını oluşturuyor. Diğer yarı ise sessiz; onun hiçbir kural kitabı yok ve makinenin içinde de değil. O bizim içimizde.
Ben buna "sessiz aşınma" adını veriyorum.
Bunu tek bir cümleyle şöyle özetleyebilirim:
Yapay zekânın en büyük riski, bizim için ne yaptığı değil; kendimiz yapmayı bırakmamıza neden olduğu şeylerdir.
Bir sisteme devrettiğimiz her görev, artık kendimizin yapmayı bıraktığı bir görev hâline gelir ve kullanmayı bıraktığımız yetenek zamanla körelmeye başlar. Yardım ile zarar, daha iyi düzenlemeler sayesinde birbirinden ayrılabilecek iki farklı sonuç değildir. Onlar aynı olayın iki yönüdür.
Yapay zekâ, çıktılarımızı yeteneklerimizi geliştirdiğinden çok daha hızlı iyileştiriyor ve sessiz aşınma tam da kendi pratiğimizin sona erdiği yerde başlıyor.
Bunu görmek zordur çünkü hiçbir şey kırılmaz. Yıllarımı çevresel kirliliği inceleyerek geçirdim ve bu süreç de aynı şekilde işliyor: Başlangıçta görünmezdir, tek bir eylemden değil her gün tekrarlanan küçük ve makul görünen tercihler bütününden oluşur ve belirtiler ortaya çıktığında süreç yıllardır devam etmektedir.
Gizli kalmasının nedeni ise hepimizin ölçtüğü tek şey olan çıktının sürekli artmaya devam etmesidir.
Çıktı göstergeleri yeşil kalırken temel yapı çökmektedir. Üstelik bu süreç zorlamayla değil, rızayla ilerler. Kimse muhakeme yetimizi elimizden almıyor; biz onu gönüllü olarak teslim ediyoruz çünkü aldığımız yardım gerçektir.
Beyni dış kaynak kullanımıyla çalıştırmak, bilinci kişinin kendi rızasıyla öldürür ve bu nedenle buna direnmek ya da bunu fark etmek dışarıdan dayatılan herhangi bir şeyden çok daha zordur.
İşte Avrupa'nın rekabet refleksinin neden bu kadar tehlikeli olduğu tam da budur. Geri kalmanın çözümü, yapay zekâyı her işletmede, her sınıfta ve her bakanlıkta daha hızlı benimsemek olamaz. Çünkü çıktıyı en üst düzeye çıkarmaya odaklanan kitlesel kullanım, aşınmanın tam da mekanizmasıdır.
Üstelik bu kayıp herkesi eşit şekilde etkilemez. Aynı araç, bir uzmanın becerilerini hafifçe köreltirken bir acemiyi tamamen içten boşaltabilir. Çünkü her biri farklı bir bilgi temeliyle bu aracı kullanmaktadır.
Yapay zekâ, en düşük beceri düzeyine sahip kişilerin ölçülen performansını en fazla artırırken, onsuz düşünebilenlerle düşünemeyenler arasındaki farkı sessizce büyütmektedir.
Vatandaşlarımıza büyük eşitleyici olarak sunduğumuz bir teknoloji, kendi hâline bırakıldığında aslında bir eşitsizlik makinesine dönüşmektedir. Kendisini toplumsal uyumla tanımlayan Avrupa Birliği için bunun sonradan düşünülecek bir mesele değil, öncelikli bir kaygı olması gerekir.
Bu mesele yalnızca bireylerle de ilgili değildir. Kurumlar da aynı şekilde aşınır ve hatta daha hızlı aşınır; çünkü burada belirleyici teşvik paradır. Önce yapay zekâ hoş karşılanan bir verimlilik aracı olarak sisteme girer. Sonra elde edilen verimlilik artışı, o işi yapan insanların işten çıkarılmasını haklı gösterir.
Ardından kurum, sistemi olmadan çalışamaz hâle gelir; çünkü işlerin gerçekte nasıl yürüdüğüne ilişkin örtük bilgi, kurumdan ayrılan insanlarla birlikte sessizce kapıdan çıkar gider. Ve sonunda yapay zekâ hata yaptığında bunu fark edebilecek yeterli insan artık kurumda kalmamıştır.
Bir kamu kurumu, bir mahkeme ya da bir bakanlık; onlarca yılda oluşturulan, inşa edilmesi pahalı ama tek bir bütçe döneminde kaybedilmesi kolay olan bir insan muhakemesi birikimidir.
Avrupa kamu yönetimini ve danışmanlık kapasitesini verimlilik adına otomatikleştirirken, iyi yönetimin dayandığı temel yeteneği de tüketme riskiyle karşı karşıya kalmaktadır.
Peki bunların hiçbiri neden düzenlemelerimizde yer almıyor?
Çünkü kullandığımız bütün araçlar yalnızca çıktıyı ölçüyor; yapay zekâ ise tam da bunu koruyor. Bu nedenle aşınma hiçbir sinyal üretmiyor.
Dahası, yönetişim anlayışımız da bu körlüğü derinleştiriyor: Yapay zekâyı her sistemi tek tek değerlendirerek denetliyoruz; oysa zarar, tek başına zararsız görünen onlarca aracın aynı anda kullanılmasının birikimli etkisinden kaynaklanıyor.
Uzun zaman önce çevre kirliliğinde bir kirleticiyi her kaynağı ayrı ayrı test ederek değerlendirmememiz gerektiğini öğrendik; önemli olan toplam yükü ölçmekti. Bu mantık henüz yapay zekâya uygulanmadı.
Yapay Zekâ Yasası, tamamen yürürlüğe girdiğinde bile başarısız olan ya da kötüye kullanılan makineleri izliyor. Başarılı olup bizi sessizce içten boşaltan makine konusunda ise tamamen sessiz kalıyor.
Avrupa'nın yapması gereken şey, yapay zekâyı düzenlemek ile onu benimsemek arasında seçim yapmak değildir. Yapması gereken, her iki tarafın da görmezden geldiği şeyi izlemeye başlamaktır.
Bu da insanın eyleme geçme kapasitesini, okuryazarlık ya da temiz hava gibi ölçülmesi ve korunması gereken bir kamusal değer olarak görmek anlamına gelir; yapay zekânın dikkat, muhakeme ve insan ilişkileri üzerindeki toplam yükünü yalnızca sistem bazında değil birikimli olarak değerlendirmek; eğitimi sürtünmesiz cevaplar yerine üretken zorluklar üzerine kurmak ve insanların yapay zekâyla yapabildikleri ile onsuz yapabildikleri arasındaki farkı, yani henüz kimsenin ölçmediği bağımlılık endeksini takip etmektir.
Kurumlar açısından ise bu, pilotların uçuş becerilerini sürekli güncel tutmasına benzer şekilde yetenek denetimleri yapılması anlamına gelir.
Bugün tartıştığımız konu, makinenin tasmasını ne kadar sıkı tutacağımızdır. Oysa biz tartışırken elimizden kayıp giden şey, bütün bu projenin hizmet etmesi gereken insan kapasitesidir. Daha iyi bir çıktı, daha güçlü bir insan anlamına gelmez. Yapay zekâ çağının en kıt kaynağı insanın kendi eyleme geçme kapasitesidir ve bugün yazmakta olduğumuz hiçbir düzenleme, korunması gereken bu değeri savunacak şekilde tasarlanmamıştır.
Euractiv
