Yapay Ses, Hukuk ve Dijital Kültür: Küresel Güven Krizinden Geleceğe

Yapay zekâ üretimi ses içerikleri, yalnızca teknik bir yenilik değildir. 

Aynı zamanda küresel ölçekte hukuk düzenini, teknoloji şirketlerinin sorumluluklarını ve dijital kültürün güven temelini yeniden tanımlayan bir meydan okuma olarak kabul edilmektedir. 

Avrupa Birliği’nin “Yapay Zeka Sözleşmesi” kapsamında gelişen teknolojiler ve ihtiyaçlara göre düzenli olarak hazırladığı raporlar, bu dönüşümün merkezinde yer alıyor ve geleceğe dair önemli ipuçları vermektedir

Dijital Kültürde Güven Krizi

Ses, kültürel iletişimin en güçlü araçlarından biridir. Bir liderin konuşması, bir sanatçının şarkısı ya da bir vatandaşın tanıklığı, toplumsal hafızada kalıcı izler bırakır. Ancak yapay zekâ ile üretilmiş deepfake sesler, bu güveni sarsmaktadır. İnsanların hiç söylemediği sözlerin onlara atfedilmesi, demokratik süreçleri ve kültürel otantiklik algısını tehdit edebilmektedir. 

Bu durum, dijital kültürde bir “güven krizi” yaratmaktadır. Son dönemde Taylor Swift gibi bazı sanatçıların seslerini ve görüntülerini kullandırmama konusundaki çabası ve aldıkları hukuki tedbirler güven konusunun önemini de göstermektedir.

Avrupa’nın önerdiği çok katmanlı işaretleme ve tespit mekanizmaları, “metadata, watermarking, fingerprinting ve model tespiti gibi uygulamalar” bu güven krizine karşı bir “dijital sigorta” işlevi görmektedir. Ancak küresel ölçekte farklı düzenlemeler, yetersiz ve çatışmacı uygulamalar kullanıcıların güven algısına zarar verebilmektedir. 

Örneğin ABD’de serbest bırakılan bir yapay ses, AB’de yasaklanabilir. Bu da dijital kültürde “parçalı güven rejimi” yaratmaktadır.

Avrupa Birliği’nin Hukuki Yaklaşımı

AB, teknoloji konusunda ABD ve ASYA ülkeleri karşısında dengeleyici ve yarı otoriter bir kimlik içerisinde politikalar üretmektedir. Örneğin Dijital Hizmetler sözleşmesi ya da Sosyal medya düzenlemeleri ile teknolojiye hukuki olarak hızlı refleks geliştirme eğilimini de sürdürmektedir. 

Son dönemde ise Yapay Zekâ ve Gelişmiş yapay zekâ gibi uygulamalar karşısında “Veri yönetimi, bağımsızlık ve şeffaflık gibi” konulara ağırlık verilmektedir.

Bu konuda geçtiğimiz günlerde yürürlüğe giren Yapay Zekâ Sözleşmesi Madde 50(2) ile üreticilere şeffaflık yükümlülüğü getirilmektedir: yapay ses içerikleri makine tarafından okunabilir biçimde işaretlenmesini zorunlu hale getirmektedir. Bu, hukuken “kaynağın açıkça belirtilmesi” ilkesine dayanmaktadır. Ancak düzenlemelere ait güncel raporlarda, tek bir teknolojinin yeterli olmadığını vurguluyor. Metadata, watermarking, fingerprinting ve model tespiti birlikte kullanıldığında daha sağlam bir hukuki altyapı oluşmaktadır.

AB’nin bu yaklaşımı, yalnızca teknik değil, aynı zamanda normatif bir düzenleme olarak düşünülebilmektedir. Çünkü dijital kültürde güvenin yeniden tesis edilmesi, hukukun şeffaflık ve hesap verebilirlik ilkeleriyle doğrudan bağlantılı konulardır. 

Avrupa, bu alanda standartları belirleyerek küresel ölçekte bir norm koyucu rol üstlenmektedir. Bu konuda yüksek teknolojilerin üretilmesi ve birincil düzeyde testlerinin yapılması halinde ise söz konusu düzenlemelerin “hızı, içeriği, niteliği ve kapsayıcılığı” daha derinlikli hale de getirilebilecektir.

Uluslararası Hukukta Farklı Yaklaşımlar

• ABD: Federal düzeyde kapsamlı bir yasa yok, ancak tüketici koruması üzerinden deepfake seslere müdahale etmektedir. Seçim kampanyalarında yapay ses kullanımı, “seçmen yanıltma” kapsamında yasaklanabiliyor.
• Çin: Devlet kontrolünde merkeziyetçi bir model izleniyor. Yapay içeriklerin işaretlenmesi zorunlu tutuluyor, ancak bu yaklaşım ifade özgürlüğü açısından tartışmalı.
• Kanada, İngiltere, Avustralya: AB’ye yakın, şeffaflık ve etik odaklı düzenlemeler öne çıkıyor. Bu ülkeler özellikle sosyal medya hesapları ve çocuklara yaş sınırı getirilmesi konusunda yeni düzenlemeler ile referans ülke özellikleri göstermektedir.

Bu farklılıklar, küresel ölçekte bir “dijital hukuk düzeni” nin henüz oluşmadığını, ancak AB’nin norm koyucu rol üstlendiğini göstermektedir.

Teknoloji Şirketlerinin Sorumluluğu

AB’nin parlamento, komisyon ve diğer bağlantılı birimler üzerinden çeşitli düzenleme ve raporları içerisinde dikkat çeken önemli bir rapor bulunmadır. Örneğin “Yapay Zekâ Yasası Madde 50(2) Bağlamında Yapay Zekâ Tarafından Üretilen Ses İçeriğinin İşaretlenmesi ve Tespitine İlişkin Teknik Çözümler” başlıklı nihai çalışma raporunda vurgulanan kritik nokta, teknoloji şirketlerinin rolü olarak dikkat çekmektedir. 

Buna göre; Platform sorumluluğu artık yalnızca içerik dağıtımı değil, aynı zamanda doğrulama ve işaretleme yükümlülüğünü de kapsamaktadır. Spotify, YouTube veya Tik Tok gibi platformlar, yapay ses içeriklerini işaretlemek ve kullanıcıya şeffaf biçimde sunmak zorunda kalabilecektir.

Ayrıca, Generative AI sağlayıcıları (örneğin ses sentezleme start-up şirketleri veya büyük teknoloji şirketleri), ürettikleri içeriklere metadata veya watermark eklemekle yükümlü olacaktır. Bu, şirketlerin yalnızca inovasyon değil, aynı zamanda toplumsal güvenin yeniden inşasında sorumluluk üstlenmesi anlamına da gelmektedir.

Hukuki Boyutun Geleceği

Raporda dikkat çekilen bir belirsizlik te görülmektedir. Örneğin, “Neyin yapay zekâ üretimi sayılacağı” sorusu. Basit bir gürültü azaltma mı, yoksa bir kişinin sesini taklit eden derin dönüşüm mü? Bu ayrım, hukuki açıdan kritik. Avrupa, bu sınırları netleştirmeye çalışırken, diğer ülkeler de benzer tartışmalarla karşı karşıya kalabilecektir.

Bu belirsizlik, gelecekte uluslararası hukukta yeni tartışmalar doğuracak. Örneğin, bir ülkenin “hafif düzenleme” olarak gördüğü bir ses manipülasyonu, başka bir ülkede “tam yapay üretim” sayılabilir. Bu da küresel ölçekte hukuki uyumsuzluk yaratabilecektir.

Geleceğe Dair Öngörüler

1. Küresel Standartlaşma: Önümüzdeki on yıl içinde AB’nin öncülüğünde, ses işaretleme ve tespit için küresel standartların oluşması bekleniyor. Bu standartlar, tıpkı telif kodları (ISRC) gibi evrensel hale gelebilir.
2. Platformların Regülasyon Yükümlülüğü: Dijital platformlar, yalnızca içerik dağıtımı değil, aynı zamanda doğrulama ve işaretleme yükümlülüğü üstlenebilecektir. Bu, teknoloji şirketlerini “dijital kültürün bekçileri” haline getirebilecektir.
3. Yeni Hukuki Alanlar: Yapay sesin seçim kampanyalarında, mahkeme süreçlerinde veya medya yayınlarında kullanımı, yeni hukuki davalara yol açacağını ön görmek mümkün. “Ses manipülasyonu yoluyla yanıltma” kavramı, uluslararası hukukta yeni bir suç kategorisi olabilir.
4. Kültürel Güvenin Yeniden İnşası: Dijital kültürde güvenin yeniden tesis edilmesi, yalnızca teknik çözümlerle değil, aynı zamanda hukuki ve etik normlarla mümkün olacak. Bu süreç, kültürel otantikliğin korunması için kritik.
5. Gelişen Güven Krizi: Eğer küresel ölçekte uyum sağlanamazsa, farklı ülkelerde farklı güven rejimleri oluşacak. Bu da dijital kültürde parçalanmış bir güven algısı yaratacak.

Sonuç

Yapay ses teknolojileri yalnızca teknik bir yenilik değil; uluslararası hukukta yeni normlar, teknoloji şirketleri için yeni sorumluluklar ve dijital kültürde güven krizini beraberinde getirmektedir. 

Avrupa Birliği’nin bu alandaki öncülüğü, küresel ölçekte yeni bir “dijital hukuk düzeni”nin habercisi olabilir. Bu düzenin oluşması ise yalnızca AB’nin değil, ABD, Çin ve diğer ülkelerin de ortak çabasıyla mümkün olacaktır. 

Gelecekte, yapay ses teknolojilerinin kültürel güveni yeniden tesis etmesi için çok katmanlı teknik çözümler, küresel standartlaşma ve teknoloji şirketlerinin sorumluluk üstlenmesi şarttır. 

Aksi halde, dijital kültürün en temel unsuru olan güven, parçalanmış bir rejim içinde kaybolacaktır.

Doç.Dr. Mustafa AYDEMİR