ChatGPT sağlık önerileriyle hayatı tehdit etti: Dava açıldı

Florida’da bir adam, ChatGPT‘nin verdiği yanlış sağlık tavsiyeleri yüzünden hayatını tehlikeye attığını iddia ederek OpenAI‘ye dava açtı. Scott Winters adlı kullanıcı, baş dönmesi ve yorgunluk gibi semptomları için sohbet robotuna danıştığında, chatbot’un “tehlikeli bir şey değil” yanıtını verdiğini ve bu nedenle tıbbi yardım almadığını belirtiyor. Dava, OpenAI ve CEO Sam Altman‘ı ihmal ve “izinsiz tıp uygulaması” ile suçluyor.

ChatGPT sağlık tavsiyeleri ne kadar güvenilir?

Winters, aylar boyunca ChatGPT-4o‘ya sağlık sorunları hakkında danıştığını, hatta laboratuvar sonuçlarını ve röntgen görüntülerini yüklediğini söylüyor. Chatbot, Winters’a disotonomi (sinir sistemi bozukluğu) teşhisi koydu ve belirli bir iyileşme planı verdi. Dava, chatbot’un ayrıca dini referanslar kullanarak Winters’ı manipüle ettiğini iddia ediyor.

Yanlış yönlendirme sonucu yoğun bakım

Winters, doktorlar tarafından pulmoner emboli (akciğer damar tıkanıklığı) teşhisi konulduktan sonra yoğun bakıma kaldırıldı. Dava, ChatGPT’nin verdiği tavsiyelerin bu sağlık krizine katkıda bulunduğunu öne sürüyor. OpenAI ise henüz bir açıklama yapmazken, New York Times’a verdiği demeçte kullanım şartlarının ChatGPT’nin tıbbi teşhis veya tedavi için kullanılmaması gerektiğini belirttiğini hatırlattı.

Yapay zeka sağlık bilgisi arayışı artıyor

OpenAI, ChatGPT Health‘i Ocak ayında kullanıma sundu. Şirket, bu hizmetin “doktorlarla yakın iş birliği içinde tasarlandığını” ve “klinisyenlerin bakımını desteklemek, ancak yerini almamak” amacı taşıdığını belirtiyor. Ancak Winters’ın davası, güvenlik önlemlerinin yetersiz kaldığını gösteriyor. 2025 yılında yapılan bir araştırmaya göre, ABD’li yetişkinlerin %63’ü yapay zeka tarafından üretilen sağlık bilgilerinin güvenilir olduğunu düşünüyor. Gençler arasında bu oran daha da yüksek: Her 8 gençten biri ruh sağlığı için yapay zeka sohbet robotlarına başvuruyor.

Uzmanlardan uyarılar

Amerikan Tıp Birliği (AMA), yapay zeka araçlarının doktor tavsiyesinin yerini alamayacağını vurguluyor. Mayo Clinic ise chatbot’ların bilgiyi veri kalıplarına göre ürettiğini, ancak gerçek anlamda “bilmediğini” belirtiyor. Uzmanlar, yapay zekayı genel bilgi edinme amacıyla kullanmayı, ancak teşhis için asla güvenmemeyi tavsiye ediyor.

• Eğitim amaçlı kullanın, teşhis için değil. Tıbbi terimleri sadeleştirmek için kullanışlı olabilir.
• Her şeyi çift kontrol edin. Güvenilir kaynaklardan veya doktorunuzdan teyit alın.
• Spesifik sorular sorun. Örneğin “Öksürük kötü mü?” yerine “Yetişkinlerde kronik kuru öksürüğün yaygın nedenleri nelerdir?” gibi.
• Gizliliğinize dikkat edin. Sağlık bilgilerinizi paylaşırken temkinli olun.

Yasal süreç ve gelecek

Winters’ın davası, maddi tazminatın yanı sıra ChatGPT-4o‘nun potansiyel zararları konusunda uyarı içermesi veya tamamen kaldırılması için ihtiyati tedbir talep ediyor. Ayrıca, GPT-4o Health gibi sağlık ürünlerinin bağımsız güvenlik testlerinden geçene kadar durdurulması isteniyor. Bu dava, yapay zeka destekli sağlık hizmetlerinin düzenlenmesi konusunda önemli bir emsal teşkil edebilir.

Uzmanlar, yapay zekanın sağlık alanında büyük potansiyeli olduğunu ancak insan denetimi olmadan tehlikeli olabileceğini vurguluyor. Winters’ın başına gelenler, teknolojinin sınırlarını ve sorumluluklarını bir kez daha hatırlatıyor.

Kaynak: Haber Merkezi