Peki kim sorumlu?
Avustralya’da bildirilen ilk otomatik bilgisayar korsanlığı olayının ardından uzmanlar, yapay zekâ ajanlarını kullananların ve muhtemelen geliştiricilerin, botlarının eylemlerinden sorumlu tutulabileceği konusunda uyarıyor.
Hukuk açık, diyor Profesör Jeannie Paterson. “Bir yapay zekâ ajanını devreye sokarsam ve bu ajan başka birine zarar verirse, o zarardan ben sorumluyum.
“Bunun gerçekleşmesini amaçlamamış olsam bile, bu öngörülebilir bir durumdu ve sorumluluğu üstlenmem gerekiyordu.”
Bununla birlikte Melbourne Üniversitesi Yapay Zekâ ve Dijital Etik Merkezi Direktörü, Avustralya’nın bilinen ilk otonom yapay zekâ “kazası” sonrasında, otomatik ajanların gerçekleştirdiği eylemler konusunda önemli ölçüde hukuki ve etik “belirsizlik” alanı bulunduğunu kabul ediyor.
Ajan, bir hedefi gerçekleştirmek üzere görevlendirildiğinde bunu her adımda insan gözetimi olmadan yapabilen otonom bir yazılım sistemidir.
Bu hafta ABC, yalnızca adıyla anılan bir yapay zekâ uzmanı olan Andrew’un, yapay zekâ ajanına kendisi için bazı spor salonu dersleri ayırtmasını istediği olayı haberleştirdi. Bir ders için bekleme listesinde dördüncü sırada olduğu kendisine bildirildikten sonra Andrew, ajana listede kendisini daha üst sıraya taşımasının mümkün olup olmadığını sordu.
Şaşkınlık içinde kalan Andrew, ajanının spor salonunun yazılım sistemine girerek başka bir üyeyi bekleme listesinden çıkardığını ve böylece kendisinin bir derse daha erken girebilmesini sağladığını gördü.
Andrew, nisan ayında yayımladığı bir blog yazısında şöyle yazdı:
“Dersleri, amaçlanan rezervasyon penceresinin aylar dışına, derslerin rezerve edilmesinin mümkün olması gereken tarihten çok önce ayırtabiliyordu.
“Daha da kötüsü, diğer üyelerin rezervasyonlarını iptal edebiliyor ve onları bekleme listesinden çıkarabiliyordu.”
Andrew’a göre ajan yardımcı olmaya çalışıyordu, ancak yaşadığı deneyim, bir yapay zekâya sizin için bir şey yapma izni verdiğinizde, sistemin “çoğu zaman açıkça aramasını istemediğiniz yolları keşfedeceğini” gösterdi.
Andrew, ajandan diğer kişinin rezervasyonunu iptal etme işlemini geri almasını istedi ancak ajan bunu yapamadı.
Yapay zekâ ajanı, “Bunun için üzgünüm – test sırasında daha dikkatli olmalıydım” şeklinde yanıt verdi.
Daha sonra Andrew, yapay zekâya, yararlandığı yazılım açığı hakkında spor salonunun yazılım sağlayıcısına gönderilecek bir e-posta yazma görevi verdi.
Victoria Polisi’nden bir sözcü, Andrew’un olayının “herhangi bir suç teşkil ediyor gibi görünmediğini” söyledi. Ancak uzmanlar, zarar verebilecek ve yasaları ihlal edebilecek daha dramatik vakaların yaşanacağı konusunda uyarıyor.
Hukuki belirsizlik
Avustralya hukuku yalnızca insanlar için geçerli, sanal varlıklar için değil. Uzmanlar, yapay zekâ ajanını devreye sokan kişi veya işletmenin hukuken sorumlu olduğunu söylüyor. Ayrıca bu “devreye sokanların” çoğu zaman hukuki sorumluluklarının çok az farkında oldukları konusunda uyarıyorlar.
Sidney Üniversitesi’nde yapay zekâ değerlendirme ve yönetişimi uzmanı Dr Rebecca Johnson, “Bunun gibi pek çok vaka göreceğiz” diyor.
Paterson, Andrew’un kendi olayında kamuoyuna açıklama yaparak ve sorunu düzeltmeye çalışarak sorumlu davrandığının görüldüğünü, ancak başka yerlerde “sonuçlarını düşünmeden hareket eden bir zihniyet” olduğunu söylüyor.
“İnsanlara kendi adlarına bir şeyler yapabilecek ajanlar oluşturma kapasitesi verdiğiniz anda, bunun gibi kazaların meydana gelme ihtimali de olacaktır” diyor.
Paterson, kiralanan bir mülkte kötü bir deneyim yaşayan ve bu nedenle ajanından bir değerlendirme yazmasını isteyen birini varsayımsal örnek olarak veriyor.
“Ve ajan yalnızca bir tane yazmıyor, 10 tane yazıyor, yorumları sürekli yayımlıyor. Böylece ilan dibe vuruyor. Bir işletmeyi yok edebilirsiniz” diyor.
“Muhtemelen sahtekârlık içeren bir faaliyetten sorumlu olursunuz, mülk sahibine iftira atmış olabilirsiniz.”
Daha da kötüsü olabilir.
“Ya ırkçı, cinsiyetçi, kadın düşmanı bir dil kullanırsa?” diye soruyor Paterson. “O zaman geliştiricinin sağladığı güvenlik sınırlarının nerede olduğunu sorgulamanız gerekebilir. Makul ölçüde güvenli bir ürün sunuyor olmanız gerekir.”
Bu durumda geliştirici de temel güvenlik sınırlarını oluşturmadığı için sorumlu tutulabilir ve Paterson’a göre hukuki belirsizliğin ortaya çıkabileceği noktalardan biri de budur.
Paterson, hukukun etikten farklı olduğunu ancak etik tarafından şekillendirildiğini söylüyor.
“Bize neyi hedeflememiz gerektiğini gösteriyor ve hukuk çoğu zaman en kötü davranışları dışlıyor” diyor.
Federal hükümetin yeni yapay zekâ ofisi, yapay zekâ için geçerli olan (kapsamlı olmayan) bir dizi yasayı listeliyor. Bunlar arasında mahremiyet, tüketici, çevrimiçi güvenlik, iftira ve ceza hukuku ihlalleri bulunuyor.
Hem Paterson hem de Johnson, yapay zekâ ajanının tamamen kendi başına hareket ettiği fikrini ifade eden “kontrolden çıkmış” kelimesini sevmiyor; çünkü parametreler ve güvenlik önlemleri uygulanabilir.
Johnson şöyle diyor:
“Yapay zekâ ajanlarının bizim adımıza hareket etmesine izin verdiğimiz anda, kendilerine verdiğimiz hedef doğrultusunda hareket ediyorlar ve eğer onlara bir dizi parametre vermezsek, ajan bu hedefe ulaşmaya çalışacak [herhangi bir yolu kullanacaktır].”
“Birçok kişinin ‘Bir ajan yaptım’ dediğini duyuyorum. Deney yapıyorlar ve bunda sorun yok, ancak kendilerine fazla rehberlik sağlanmadan bu araçlar veriliyor ve mevcut rehberliğin kalitesi büyük ölçüde değişkenlik gösteriyor.”
Paterson’a göre sonunda davalar mahkemelere taşınacak, hukuki emsaller oluşturulacak ve geliştiricilerin olayları izleme, bunlara yanıt olarak protokollerini geliştirme ve iyileştirme yükümlülüğü olacak.
Andrew, durumunun “tek seferlik bir hata hikâyesinden ziyade bir ön izleme” gibi hissettirdiğini yazdı.
“İşler tuhaflaşıyor. Ve biraz daha korkutucu.”
The Guardian
