Google, arama sonuçlarında kullanıcıların üstte gördüğü otomatik AI (yapay zekâ) tarafından oluşturulan sağlık özetlerini bazı durumlarda kaldırdığını duyurdu.
Google, sağlıkla ilgili bazı yapay zekâ temelli arama özetlerini, bu özetlerin yanlış veya eksik bilgiler içerebileceği ve kullanıcıların sağlık kararlarını tehlikeye atabileceği uyarıları üzerine kaldırdı.
Bu adım, sağlık alanındaki yapay zekâ özetlerinin güvenilirliğine ilişkin artan uzman uyarıları ve yanlış bilgilendirmenin tehlikeli sonuçları olabileceğine dair eleştiriler sonrası geldi.
Uzmanlar Uyarıyor
Uzmanlar, AI tarafından üretilen sağlık içeriklerinin dikkatle değerlendirilmesi gerektiğini vurguluyorlar.
Neden Bu Adım Atıldı? — Tehlikeli Yanıltıcı İçerikler
Bir gazetecilik incelemesi ve uzmanlar, Google’ın AI tarafından oluşturulan sağlık özetlerinin bazı örneklerde tehlikeli biçimde yanlış veya eksik bilgi verdiğini ortaya koydu.
Örneğin:
- Karaciğer fonksiyon testleriyle ilgili özetler, normal aralıkları yaş, cinsiyet veya etnik köken gibi bağlam sunmadan basitleştirilmiş sayılarla göstermişti; bu, ciddi hastalığı olan kişilerin yanlış rahatlama hissiyle tedavi aramaktan vazgeçmesine yol açabilirdi.
- Pankreas kanseri gibi ciddi hastalıklarla ilgili öneriler de tıbbi kılavuzlarla çelişen ve uzmanların “tehlikeli” olarak nitelendirdiği tavsiyeler içerebiliyordu.
Bu tür yanlış bilgiler, tıbbi bağlam ve uzman değerlendirmesi olmadan gösterildiği için kullanıcıları yanıltma ve sağlık kararlarını yanlış yönlendirme riski taşıyor.
AI Özetleri Nedir?
Google’ın AI Overviews olarak adlandırdığı sistem, arama sonuçlarının en üstünde otomatik olarak kısa açıklamalar ve özetler sunuyor.
Bu özetler, geleneksel bağlantı listesi yerine kullanıcılara hızlı bilgi sağlıyor.
Ancak bu sistem, herkesin söylediği doğruları harmanladığı için bahsedilen bağlam ve uzman değerlendirmesi gibi önemli unsurları atlayabiliyor.
Uzmanların Endişeleri
Sağlık alanında bot tarafından öne çıkarılan özetlerin en büyük sorunları:
- Metinlerin tıbbi bağlamdan yoksun olması,
- Kullanıcıların önerilen bağlantıya tıklamadan özetle yetinme eğilimi,
- Bazı durumlarda yanlış veya eksik bilgilerle yaşam/tedavi kararları alınması.
Uzmanlar, bu nedenle AI özetlerinin yalnızca ilk bilgi kaynağı olarak görülmesi gerektiğini, asıl tedavi veya teşhis kararlarının hekim veya uzmana danışarak verilmesi gerektiğini vurguluyorlar.
Google’ın Açıklaması
Google, bu hatalı bilgilerle ilgili olarak bazı AI özetlerini kaldırdığını doğruladı. Şirket sözcüsü, çoğu durumda özetlerin yüksek kaliteli kaynaklara dayandığını ancak gerekli bağlam eksiklikleri ve yanlışlıklar tespit edildiğinde düzenlemelerin yapıldığını ifade etti.
Ayrıca şirket, içerik iyileştirme çalışmalarının devam ettiğini belirtti.
Geniş Tartışma ve Riskler
Bu olay, arama motorlarının ve yapay zekânın sağlık bilgilerinde otomatik olarak uzmanlaşmasının getirdiği risklerindaha geniş bir şekilde tartışılmasına neden oluyor.
Uzmanlar, yapay zekâ özetlerinin dayanıklılık ve doğruluk eksiklikleri nedeniyle tıbbi içerik konusunda kullanıcıları yanlış yönlendirebileceğini belirtiyorlar.
Euractiv
