ChatGPT’nin kanser hastalarına yanıltıcı ve hatalı bilgiler verdiği ortaya çıktı

JAMA Oncology adlı dergide yayınlanan bir çalışmaya göre ChatGPT’nin kanser tedavisinde yanıltıcı bilgiler sunabildiği iddia edildi.

Candeğer Muradoğlu,

Tıp alanındaki her hastalık ve her hasta benzersiz. Bazı hastalıkların teşhisi ve tedavisi karmaşık ve tek bir algoritma veya yaklaşım her zaman işe yaramıyor. Sağlık profesyonelleri hastaların bireysel özelliklerini, tıbbi geçmişlerini ve semptomlarını değerlendirmek için insan zekasını ve deneyimini kullanıyor.

Yapay zeka, hastalık teşhisi ve tıbbi tanı konusunda önemli bir rol oynuyor. Ama yine de hastalıklarla ilgili bu özgünlüğü yakalama ve anlama konusunda bazı sınırlamaları var.

Bu ay JAMA Oncology adlı dergide yayınlanan bir çalışma, OpenAI’ın ChatGPT adlı yapay zeka modelinin kanser tedavisi konusunda yanıltıcı ve yararsız bilgiler sunma riskini ortaya çıkardı. Araştırmacılar, ChatGPT’nin kanser tedavisi ile ilgili sorgulamalara verdiği yanıtları inceledi ve yapay zeka sohbet robotunun hastaların tedavi seçenekleri hakkında yanıltıcı veya uygun olmayan öneriler sunma eğiliminde olduğunu fark etti.

Araştırmacıların yaptığı çalışma için ChatGPT’ye akciğer, prostat ve meme kanseri gibi farklı kanser türleriyle ilgili 104 soru soruldu. ChatGPT’nin verdiği cevaplar, Ulusal Kapsamlı Kanser Ağı (NCCN) kanser tedavi kılavuzlarıyla karşılaştırıldı. Sonuçlar, ChatGPT’nin NCCN kılavuzlarına uymayan tedavi önerileri üretme oranının yüzde 34.3 olduğunu gösterdi. Ayrıca, ChatGPT’nin 104 cevabın 13’ünü tamamen uydurduğu, yani bu bilgileri rastgele oluşturduğu belirlendi.

Dana-Farber Cancer Institute araştırmacısı Danielle Bitterman, ChatGPT’nin cevaplarının insan benzeri ve ikna edici olabileceğini söyledi ve ekledi: “Ancak klinik karar verme süreçlerinin karmaşıklığı nedeniyle her hastanın benzersiz ihtiyaçları var.”

Yukarıda da anlatıldığı gibi OpenAI’ın ChatGPT gibi büyük dil modelleri karmaşık sorulara cevap verebilir gibi görünse de tıbbi karar verme gibi hassas konularda yanıltıcı ve hatalı bilgi sağlayabiliyor. Bu durum, hastalara yanlış tedavi önerileri sunma riski taşıyor.

Bu durum önemli. Çünkü yapay zekanın, özellikle tıbbi danışmanlık gibi hassas ve hayati öneme sahip konularda doğru ve güvenilir bilgi sağlaması gerekiyor. Ancak bu makalede bahsedilen çalışma, OpenAI’ın ChatGPT gibi büyük dil modellerinin, kanser tedavisi gibi ciddi sağlık konularında hatalı önerilerde bulunduğunu gösteriyor.

Özet olarak yapay zeka teknolojileri tıbbi teşhis ve tanı süreçlerinde önemli bir araç olabilir. Ancak tıbbi uzmanların denetimi ve insan faktörü unutulmamalı. Bu teknolojilerin şu an için sadece tıbbi uzmanların karar alma süreçlerini desteklemek ve geliştirmek için kullanılması gerekiyor.