Yapay zekâ destekli uygulamalar ve botlar tıbbın içine dalıyor.

Yapay zekâ, yazılım ve hukuk sektörlerinden eğlence ve eğitime kadar pek çok alanı sarsıyor. Ve Ankara, Türkiye’de bir hastanede görev yapan Dr. Cem Aksoy gibi hekimlerin de deneyimlediği üzere, hastaların tavsiye almak için yapay zekâya başvurması tıpta özel zorluklar yaratıyor.

Ankara’daki bir hastanede asistan doktor olan Aksoy, kısa süre önce 18 yaşındaki bir hastanın ve ailesinin, gencin sol bacağında kanserli bir tümör teşhisi konulmasının ardından paniğe kapıldığını söylüyor. OpenAI’nin ChatGPT’sine başvurdular. Bot, gencin yalnızca beş yıl yaşayabileceğini söyledi.

Bu analiz yanlıştı: Temmuz ayında bir plastik cerrah tümörü başarıyla çıkardı. Aksoy, “Operasyondan sonra fiilen tamamen iyileşti,” dedi.

Ancak birkaç hafta sonra hasta, gözyaşlarına hâkim olamadan Aksoy’u aradı. Doktorun aktardığına göre hasta, “Son zamanlarda öksürmeye başladım ve ChatGPT bunun akciğerlerime metastaz yapmış olabileceğini söyledi,” dedi; yani kanserin yayıldığını. Hasta, vasiyet yazması gerektiğini söyledi. Oysa akciğerleri tamamen sağlıklıydı. 

Öksürmesinin nedeni kısa süre önce sigaraya başlamış olmasıydı. Aksoy, “Bir kişi sıkıntılı ve yönlendirilmemiş durumdaysa,” dedi, bir yapay zekâ sohbet botunun “onu tutarlı bir bağlam sunmadan bilgi ormanının içine sürüklediğini” ifade etti.

OpenAI’den bir sözcü, şirketin en yeni modellerinin sağlık sorularını ele alma biçiminde önemli ölçüde iyileşme sağladığını söyledi. Şirket, ChatGPT’nin bir tıp uzmanının rehberliğinin yerine geçmesi amacıyla tasarlanmadığını belirtti.

“Bir kişi sıkıntılı ve yönlendirilmemiş durumdaysa, [bir yapay zekâ sohbet botu] onu tutarlı bir bağlam olmadan bilgi ormanının içine sürükler.”

Dr. Cem Aksoy

Genç Türk hastanın yapay zekâ tarafından sunulan tıbbi bilgelikle yaşadığı bu deneyim, dünyanın dört bir yanındaki pek çok hastanın tavsiye almak için bu teknolojiye yöneldiği bir dönemde yaşanıyor. 

Her şeyi sorabildiğiniz büyük sohbet botlarının yanı sıra, tüketiciler çok sayıda yeni yapay zekâ destekli tıbbi tüketici uygulamasına da yöneliyor.

‘KENDİ DOKTORUN OL’

Apple ve Google uygulama mağazalarında bulunan giderek artan sayıda mobil uygulama, teşhis koymaları gerekmemesine rağmen, hastaların tıbbi şikâyetlerinde yardımcı olmak için yapay zekâ kullandıklarını iddia ediyor.

ABD Gıda ve İlaç Dairesi (FDA) yönergelerine göre, yapay zekâ tabanlı tıbbi uygulamalar, “genel olarak hasta eğitimi amacıyla tasarlanmışlarsa ve hastalıkların veya diğer durumların teşhisinde kullanılmak üzere tasarlanmamışlarsa” onay gerektirmiyor. 

Birçok uygulamada, tanı aracı olmadıklarını ve bir hekimin yerini almamaları gerektiğini belirten feragatnameler bulunuyor. Ancak bazı geliştiriciler bu sınırları zorluyor gibi görünüyor.

“Eureka Health: AI Doctor” adlı bir uygulama kendisini “Hepsi bir arada kişisel sağlık yol arkadaşınız” olarak tanıttı. Apple App Store’da, “YALNIZCA BİLGİ AMAÇLIDIR” ve “hastalık teşhisi veya tedavisi yapmaz” ifadelerine yer verildi.

Ancak geliştiricisi Sam Dot Co, uygulamayı bir internet sitesinde de tanıttı ve orada büyük harflerle şu ifadeyi kullandı: “Kendi doktorun ol.”

Site şu ifadeleri içeriyordu: “Sor, teşhis koy, tedavi et. Yapay zekâmız sadece teşhis koymakla kalmaz – sizi reçetelere, laboratuvar testlerine ve gerçek dünyadaki bakıma bağlar.”

Apple, Reuters’ın Eureka Health hakkında bilgi vermesinin ardından uygulamayı App Store’dan kaldırdığını söyledi. Apple’ın geliştiricilere yönelik yönergelerinde, tıbbi uygulamaların “doğruluk iddialarını desteklemek için veri ve metodolojiyi açıkça belirtmesi gerektiği” ifade ediliyor.

Uygulama geliştiricisi Sam Dot yorum talebine yanıt vermedi. Ancak Reuters’ın sorularından sonra internet sitesi değiştirildi. Site artık uygulamadan bahsetmiyor.

Bazı durumlarda uygulamalar hatalı ve potansiyel olarak tehlikeli tavsiyeler verdi.

“AI Dermatologist: Skin Scanner” adlı uygulama, internet sitesinde 940.000’den fazla kullanıcısı olduğunu ve “profesyonel bir dermatologla aynı doğruluk oranına sahip olduğunu” iddia ediyor. Kullanıcılar benler ve diğer cilt sorunlarının fotoğraflarını yüklüyor ve yapay zekâ “anında” bir risk değerlendirmesi sunuyor. Site, “AI Dermatologist hayatınızı kurtarabilir,” iddiasında bulunuyor.

Litvanya merkezli geliştirici Acina, uygulamanın tahminler yapmak için kalıpları arayan “özel bir sinir ağı” kullandığını söylüyor. Acina, sistemin belirli cilt rahatsızlıklarını tanımak üzere dermatolojik görüntülerle eğitildiğini belirtiyor.

Uygulama “%97’nin üzerinde doğruluk” iddiasında bulunuyor. Ancak uygulama mağazalarında yüzlerce tek yıldızlı yorum aldı ve birçok kullanıcı hatalı olduğunu söylüyor.

New Jersey’de teknik destek analisti olan Daniel Thiberge, Reuters’a uygulamayı kolundaki küçük bir oluşumun fotoğrafını çekip yorumlatmak için satın aldığını söyledi. 

Yedi fotoğraf yüklediğini ve altı sonucun bunun “%75–%95” oranında kanser riski taşıdığını gösterdiğini belirtti. Daha sonra bir dermatoloğa gitti. Doktor, oluşumun hiçbir şekilde sorunlu görünmediğini ve biyopsi yapmaya gerek olmadığını söyledi.

“Tamamen, vahim şekilde yanlışsa, bu uygulamanın amacı nedir?” diye sordu Thiberge. En iyi ihtimalle işe yaramaz olduğunu söyledi. “En kötü ihtimalle ise tehlikeli, çünkü bir dermatoloğa gitmeyebilirsiniz.”

Apple App Store’daki başka bir yorumda bir kullanıcı, uygulamayı test etmek için daha önce teşhis edilmiş ve cerrahi olarak çıkarılmış ciddi bir cilt kanseri türü olan melanomun fotoğraflarını yüklediğini yazdı. Ancak uygulama durumu “iyi huylu” olarak raporladı. Kullanıcı Reuters’a, “Bazı insanların buna güvenip doktor ziyaretlerini ertelemesinden korkuyorum,” dedi.

Reuters, uygulama kullanıcılarının deneyimlerini bağımsız olarak doğrulamadı. Acina da bunları doğrulayamadığını söyledi. Reuters’a, AI Dermatologist’in “amacının tıbbi teşhis koymak değil, kullanıcıları bir uzmana danışmaya teşvik etmek için yapay zekâ teknolojisiyle ön değerlendirme sunmak” olduğunu belirtti.

“Yapay zekâ modellerimiz dermatoloji literatürüne ve kurul onaylı dermatologlar tarafından seçilen ve doğrulanan özenle hazırlanmış veri setlerine dayanmaktadır,” diyen şirket, “yanlış pozitif sonuçların her yapay zekâ sisteminde ortaya çıkabileceğini” ekledi. 

Şirket, uygulamanın birçok olumlu çevrimiçi yorum aldığını ve “bazı kullanıcıların, uygulamanın onları erken dönemde bir beni veya lezyonu kontrol ettirmeye yönlendirdiği için teşekkür ettiğini; bunun bazı durumlarda zamanında tıbbi müdahaleye yol açtığını” söyledi.

Apple, Reuters’ın dikkatini çekmesinin ardından, kısmen çok sayıda müşteri şikâyeti nedeniyle uygulamayı App Store’dan kaldırdığını söyledi.

Google da Reuters’ın uygulamaya dikkat çekmesinin ardından AI Dermatologist’i Google Play Store’dan kaldırdı. Bir sözcü, “Google Play, yanıltıcı veya zararlı sağlık işlevselliği sunan uygulamaları yasaklar ve tıbbi işlevsellik sunan uygulamalar için düzenleyici kanıt veya feragatname gerektirir,” dedi.

Ancak uygulama yeniden piyasaya çıktı. Google, Acina’nın uygulamayı revize etmesinin ardından yakın zamanda yeniden yayına aldığını söyledi. Google, askıya alınan uygulamaların “uyumlu bir sürüm” ile güncellenmeleri hâlinde geri dönebileceğini belirtti.

Acina, uygulamanın “bir tıbbi cihaz olmadığını daha açık şekilde belirttiğini”, teşhis sunmadığını ve kullanıcıların sağlık profesyonellerine danışmaları gerektiğini netleştirdiğini söyledi.

Apple da uygulamayı kısa süreliğine yeniden yayına aldı, ancak geçen hafta tekrar kaldırdı. Acina’ya göre Apple, “yeniden değerlendirme sonucunda” şu karara vardığını bildirdi:

“Uygulama, uygun düzenleyici onay olmaksızın tıbbi veriler, sağlıkla ilgili ölçümler, teşhisler veya tedavi tavsiyeleri sunmaktadır.” Acina, bu karara itiraz ettiğini söyledi.

Dr. Rachel Draelos, hem hekim hem bilgisayar bilimci hem de yapay zekâ sağlık danışmanı olarak, yapay zekâ destekli tıbbi uygulamaların özellikle dermatoloji alanında endişe verici olduğunu söylüyor. 

Reuters’a konuşan Draelos, “Beni çok endişelendiriyor, çünkü ciltle ilgili şeyleri doğru şekilde tanımlamak gerçekten çok zor,” dedi. Binlerce cilt hastalığı bulunduğunu belirten Draelos, “Bu uygulamaların hepsini kapsayan bir veri setine sahip olmalarının imkânı yok,” diye ekledi.

Reuters