Yapay zekâ gözlüklerinde "gözetim tehlikesi"

Avrupa tüketici grubu, yapay zekâ cihazlarının hayatımıza daha da yaklaşmasıyla ortaya çıkan toplumsal riskler konusunda uyarıda bulunuyor.

Bir gözlük takıyorsunuz ve ona neye baktığınızı soruyorsunuz.

Bu bir bilim kurgu değil, milyonlarca insanın sahip olduğu bağlantılı bir cihaz. Ancak kategori lideri Meta'nınkiler gibi akıllı gözlükler, yapay zekâ yeteneklerini günlük hayata yaklaştırarak gizlilik konusunda artan bir endişeye yol açıyor.

Avrupa tüketici grubu BEUC, geçen hafta Komisyona yazdığı mektupta, yüksek teknolojili ancak geleneksel görünümlü giyilebilir cihazın gizlilik açısından "önemli bir risk" oluşturduğu konusunda uyardı.

BEUC, sadece yerleşik kameranın değil, "yerleşik yapay zekâ özelliklerinin toplum için daha fazla risk oluşturduğunu" söyledi; örneğin, yabancıları anında gizlice tanımlama potansiyeli gibi. 

Haziran ayında, teknoloji dergisi Wired, Meta'nın akıllı gözlüklerine yüz tanıma yazılımı eklediğini ortaya koydu, ancak şirket bu özelliği yalnızca "araştırdığını" ve kullanıcılara sunulmadığını iddia etti.

Özellik geliştirme devam ederken, yapay zeka destekli gözlüklerin satışları da artmaya devam ediyor: Araştırma grubu Omdia'ya göre 2025 yılında 8,7 milyon çift satıldı.

BEUC, “Akıllı gözlükler niş bir cihazdan ana akım perakende satışına geçerken, tüketicilerin hakları üzerindeki etkilerinin ciddi olarak değerlendirilmesi gerekiyor” uyarısında bulundu.

Yüzünüzde yapay zeka

Meta'nın giyilebilir cihazlardan sorumlu başkan yardımcısı Alex Himel, akıllı gözlükleri yapay zeka için bir dağıtım aracı olarak tanımlayarak, yapay zeka desteğinin faydasını daha kullanışlı olduğu yere yaklaştırıyor.

Aynı zamanda, akıllı gözlükler tarafından üretilen kişisel verilerin yapay zeka modellerini eğitmek için nasıl kullanılabileceği, AB gizlilik düzenleyicilerini endişelendiriyor.

Birliğin gizlilik denetleyicilerini bir araya getiren Avrupa Veri Koruma Kurulu (EDPB), geliştiricilerin bireysel gizlilik risklerinden daha ağır basan meşru bir menfaat gösterebilmeleri koşuluyla, ChatGPT gibi sohbet botları için olduğu gibi, insanların verileri üzerinde rıza olmadan yapay zeka eğitimine izin verdi.

Ancak, akıllı gözlük verileri söz konusu olduğunda -örneğin, yerleşik bir yapay zekaya aktarılan kayıtlar gibi- EDPB, şirketlerin çevredeki kişilerin bilgilerini işlemek için meşru bir menfaate sahip olduklarını iddia etmelerinin zor olacağı konusunda uyardı.

Meta'nın gizlilik politikası, akıllı gözlük kullanıcılarının cihazla paylaştığı verilerle yapay zekayı eğitebileceğini, ancak kullanıcıların bunu devre dışı bırakabileceğini belirtiyor. 

Çevredekiler için ise, kişisel verileri koruduğunu iddia ettiği yüzleri bulanıklaştıran bir "gizlilik filtresi" uyguladığını söylüyor.

Ancak yapay zeka daha fazla cihaza yerleştikçe, akıllı cihazlara yaklaşan herkesin gizliliğini korumak önemli bir endişe kaynağı gibi görünüyor.

Apple ve Google'ın da kendi akıllı gözlüklerini piyasaya sürmeyi planladığı bildiriliyor. Aslında Google, 2010'larda bu kategorinin öncülerinden biriydi, ancak ilk denemesi olan Google Glass, normal bir gözlüğe benzemiyordu ve ana akımda popülerlik kazanamadı; dikkat çeken kullanıcılar "Glassholes" olarak adlandırıldı.

Meta ayrıca yakın zamanda, genç kullanıcıları hedefleyen, anahtarlık boyutunda bir yapay zeka asistanı olan Muse Charm'ı da tanıttı. Giyilebilir cihazlar dinliyor

Akıllı cihazlar çoğaldıkça -yapay zeka her yanımıza yayıldıkça- daha geniş toplumsal endişe, gizlilik beklentisinden sürekli gözetime geçeceğimiz yönünde.

Nitekim, Financial Times'ın bu yaz yayınladığı bir haberde Meta'nın sürekli kayıt yapan "akıllı algılama" gözlüklerini test ettiği öne sürülmüştü.

Ancak bu özelliğe sahip olmasa bile, Meta'nın giyilebilir cihazı Şubat ayında yapay zeka eğitimi için veri etiketlemeyle ilgili bir gizlilik skandalına karıştı.

İki İsveç gazetesi, bir yüklenici firmanın çalışanlarının, aralarında mahrem durumların da bulunduğu, filme alındıklarının farkında olmayan Meta Gözlük kullanıcılarının videolarını incelediğini bildirdi.

Bir Meta sözcüsü o dönemde, bazen verileri yüklenicilerle paylaştıklarını, ancak "kişilerin gizliliğini korumak için önce filtrelendiğini" iddia etti.

Gizlilik koruması ile gizlilik ihlali arasındaki çizgiyi kimin belirleyeceği, önümüzdeki yıllarda önemli bir mücadele olacak gibi görünüyor.

Rapporteur