Yapay zekâ destekli yüz tanıma sistemlerinin denetimi zorlaşıyor

Biyometri komiserleri, yüz tarama teknolojisinin iddia edildiği kadar etkili olmadığını ve kullanımını düzenlemek için yeni yasalara ihtiyaç duyulduğunu söylüyor.

Birleşik Krallık’ın biyometri denetleyicileri, suçluları yakalamak için kullanılan yapay zekâ destekli yüz tarama sistemlerine yönelik ulusal denetimin, teknolojinin hızlı büyümesinin oldukça gerisinde kaldığı uyarısında bulundu.

Londra’da Metropolitan Police’in son 12 ayda taradığı yüz sayısını neredeyse iki katına çıkarması ve Birleşik Krallık’taki perakendecilerin bu teknolojiyi giderek daha fazla kullanmasıyla birlikte, İngiltere ve Galler biyometri komiseri William Webster, “yasa yapım sürecinin yavaş ilerleyişinin gerçek dünyaya yetişmeye çalıştığını” ve “atın arabadan önce gittiğini” söyledi.

İskoçya’daki aynı görevi yürüten Brian Plastow ise teknolojinin “polisin iddia ettiği kadar etkili olmaktan çok uzak” olduğunu belirterek Birleşik Krallık genelinde “parçalı bir yasal çerçeve” bulunduğu uyarısını yaptı. 

Plastow, İngiltere ve Galler’de polisin “esas olarak kendi kendini denetlediğini” ifade etti.

Denetleyiciler, polis güçlerinin canlı yüz tanıma teknolojisini ne zaman ve nasıl kullanacağını düzenlemek için yeni yasalara ihtiyaç olduğunu ve kötüye kullanımı engelleyecek yeni bir düzenleyici kurulması gerektiğini belirtti. 

Bu teknolojiyi denetleyen kurumlar arasında Information Commissioner's Office (ICO) ve Equality and Human Rights Commission da bulunuyor.

İçişleri Bakanlığı, teknolojiyi ülke genelinde yaygınlaştırmayı planlarken yeni bir yasal çerçeveyi de değerlendiriyor ve bunu “DNA eşleştirmeden bu yana suçluları yakalamadaki en büyük atılım” olarak tanımlıyor.

Yapay zekâ kameraları kullanan mağazalar tarafından yanlışlıkla suçlu olarak işaretlenen vatandaşlar ise hesap verebilirlik ya da şikâyet mekanizmasının bulunmadığını belirtiyor. 

Bu kişiler, sistemin kendilerini “suçsuzluğu kanıtlanana kadar suçlu” hissettirdiğini ifade ediyor.

Yetkililer, yüz tanıma teknolojisinin sokakları daha güvenli hale getirdiğini savunurken, eleştirmenler bunun “Büyük Birader tarzı” kitlesel gözetim olduğunu ve sivil özgürlükler ile veri gizliliği açısından riskler barındırdığını dile getiriyor.

Bu yıl şu ana kadar Londra polisi, aranan şüphelileri bulmak için 1,7 milyondan fazla yüz taradı; bu rakam 2025’in aynı dönemine göre %87 artış anlamına geliyor.

Ayrıca şu gelişmeler de ortaya çıktı:

• Londra polisinin yüz tanıma teknolojisi kullanımına yönelik bağımsız denetim, polisin talebiyle süresiz olarak ertelendi.
• Kamuoyu yoklamaları, halkın %57’sinin bu sistemleri “Birleşik Krallık’ı bir gözetim toplumuna dönüştürmeye yönelik bir adım” olarak gördüğünü gösteriyor.
• Bir ihbarcı, mağaza tabanlı yüz tarama sistemlerinin bazı durumlarda güvenlik görevlileri tarafından “kötü niyetle” kullanıldığını iddia etti.

Webster, “En az üç yıl boyunca düzenlemelerin yürürlüğe girmesini konuşuyor olabiliriz. Oysa halihazırda bir düzineden fazla polis gücü canlı yüz tanımayı kullanıyor” dedi.

Teknolojinin giderek ucuzladığını belirten Webster, zamanla sabit güvenlik kameraları dahil olmak üzere her yerde kullanılacağını söyledi.

Şubat ayında ortaya çıkan bir olayda, yüz tanıma yazılımı Güney Asya kökenli iki kişiyi karıştırdığı için bir kişi hiç gitmediği bir şehirdeki hırsızlık nedeniyle tutuklandı.

Perakendecilerin hırsızlıkla mücadelede kullandığı sistemler nedeniyle yanlış tanımlanan kişiler de benzer deneyimlerini paylaştı. Bu durum, teknolojinin yeterince denetlenmemesi konusundaki endişeleri artırdı.

ICO’nun, polis tarafından kullanılan yapay zekâ destekli yüz tanıma sistemine yönelik planladığı denetimin ertelenmesi de tartışmaları büyüttü. 

Kurumun geçen yıl ekim ayında başlatmayı planladığı inceleme, polis talebiyle ertelendi ve şu an yapılıp yapılmayacağı belirsiz.

Eski gölge içişleri bakanı ve sivil özgürlükler savunucusu David Davis, “Bu teknoloji çok büyük sonuçlar doğurabilecek bir gelişme. ICO sıradan vatandaşın savunucusu olmalı ve çok daha agresif davranmalı” dedi.

Yüz tanıma teknolojisi, perakende zincirlerinde hırsızlık ve şiddet olaylarını tespit etmek için giderek daha yaygın kullanılıyor. Sainsbury's, Budgens ve Sports Direct gibi zincirler bazı mağazalarında Facewatch sistemini kullanıyor.

Sistem, CCTV görüntülerini analiz ederek yüzleri bilinen suçluların yer aldığı veri tabanıyla karşılaştırıyor ve eşleşme olduğunda personeli uyarıyor.

Sivil özgürlükler örgütü Big Brother Watch, son bir yılda yanlışlıkla izleme listelerine eklendiğini düşünen 21 kişiyle iletişime geçtiğini açıkladı.

Emekli bir iş güvenliği uzmanı olan Ian Clayton, bir mağazada hırsız olarak işaretlenip dışarı çıkarıldığını, sonrasında aslında başka biriyle karıştırıldığını öğrendiğini söyledi. “Bu çok Orwellvari hissettiriyor,” dedi.

Benzer bir deneyimi yaşayan veri stratejisti Warren Rajah ise “Bu, yavaş yavaş içine girdiğimiz bir sivil haklar meselesi” yorumunu yaptı.

Bir ihbarcıya göre bazı güvenlik görevlileri, hiçbir suç işlememiş kişileri bile kasıtlı olarak izleme listesine ekleyebiliyor. 

Bu da aynı sistemi kullanan diğer mağazalarda bu kişilerin otomatik olarak şüpheli olarak işaretlenmesine yol açıyor.

Facewatch CEO’su Nick Fisher ise bu iddiaları reddederek sistemin kötüye kullanımı engelleyecek şekilde tasarlandığını ve her kaydın insan denetiminden geçtiğini belirtti.

The Guardian