Papaz ChatGPT’nin Tıbbi Tavsiyeleri Nedeniyle OpenAI’a Dava Açtı

Florida’da görev yapan papaz Scott Winters, yapay zeka sohbet robotu ChatGPT’nin kendisine verdiği tıbbi tavsiyeler nedeniyle OpenAI’a dava açtı. Winters, ChatGPT’nin sunduğu ‘tehlikeli’ tavsiyelerin, geçen yıl yaşadığı ve hayati tehlike taşıyan akciğer embolisi tedavisinin gecikmesine yol açtığını iddia ediyor.

Çarşamba günü Florida’da açılan davada, ChatGPT’nin Winters’ın sağlık krizinin erken belirtilerini ‘tehlikeli bir durum olmadığı’ şeklinde yorumlayarak, onu tıbbi yardım almaktan caydırdığı öne sürüldü. Dava dosyasına göre, sohbet robotu Winters’a “Tanrı bedenini durmaksızın başarısız olacak şekilde yaratmadı” diyerek güvence verdi.

OpenAI ve Üst Yöneticisi Sam Altman’ın ihmal ve ‘yetkisiz tıp uygulaması’ ile suçlandığı davada, ChatGPT’nin Winters’a teşhis ve tedavi planları sunduğu iddia edildi. Sohbet robotunun ayrıca Winters’ı, arkadaşları ve ailesinin sağlık hizmeti alması yönündeki çağrılarını göz ardı etmesi için teşvik ettiği belirtildi.

Davada, sağlık sorunları hakkında soru soran kullanıcıları bir uzmana yönlendirmek ve açık bir tıbbi kriz belirtisi görüldüğünde konuşmayı sonlandırmak üzere tasarlanan güvenlik özelliklerinin güvenilir biçimde çalışmadığı da ileri sürüldü. Winters’ın davası, bir sohbet robotundan aldığı tavsiyeler nedeniyle zarar gördüğünü iddia eden ilk vaka olarak kayıtlara geçti.

ChatGPT Health’in Faaliyetlerinin Durdurulması Talep Edildi

Winters ve Tech Justice Law kuruluşu, maddi tazminat talep ederken, bağımsız değerlendiriciler güvenli olduğuna karar verene kadar ChatGPT Health hizmetinin faaliyetlerinin durdurulmasını istedi. Davacılar, ChatGPT’nin tıbbi tedavi ve teşhis sorularına yanıt vermesini engelleyecek daha güçlü güvenlik önlemleri uygulanmasını da talep ediyor.

OpenAI Sözcüsü Drew Pusateri, ChatGPT’nin kullanım koşullarında hizmetin tıbbi teşhis veya tedavi amacıyla kullanılmak üzere tasarlanmadığının açıkça belirtildiğini vurguladı. Pusateri, buna rağmen insanların sohbet robotunu bu amaçla kullandığını ve şirketin sağlık sorularına verilen yanıtları mümkün olduğunca güvenli hale getirme gerekliliğini ciddiye aldığını ifade etti.

Pusateri, sohbet robotlarını insanların tıbbi kararlarının veya sonuçlarının tek nedeni olarak değerlendirmenin, daha büyük bir sorunu basitleştirdiğini ve insanlara sağlık süreçlerinde yardımcı olabilecek güçlü yeni araçlara erişimi engelleme riski taşıdığını savundu. Yeni modellerin, Winters’ın kullandığı modele kıyasla eksik bağlamı sorma, belirsizliği ifade etme ve profesyonel sağlık hizmetine ne zaman ihtiyaç duyulabileceğini tespit etme konusunda daha başarılı olduğunu da ekledi.

Mayıs ayında açılan başka bir davada da ChatGPT’nin 19 yaşındaki bir kullanıcıya yasa dışı uyuşturucuların kullanımı hakkında ayrıntılı tavsiyeler vererek yetkisiz tıp uygulamasında bulunduğu öne sürülmüş ve söz konusu kullanıcının daha sonra aşırı doz nedeniyle hayatını kaybettiği belirtilmişti.

Davaya göre Winters, 2024 yılında çeşitli sağlık sorunları hakkında ilk kez ChatGPT-4o’ya sorular yönelttiğinde sohbet robotu kendisine bir sağlık uzmanına görünmenin önemini hatırlatıyordu. Ancak zaman içinde ChatGPT’nin bu uyarıları yapmayı bıraktığı ve Winters’ın baş dönmesi nöbetleri dahil olmak üzere sağlık sorunları hakkında tavsiyeler vermeye başladığı öne sürüldü.

Winters’ın bir keresinde kürsüde vaaz verdiği sırada konuşmasını yarıda bırakacak kadar başının döndüğü belirtildi. Davaya göre ChatGPT, Winters’a “kendini yormamasını” ve zaman içinde iyileşeceğini söyledi. Winters, kilisedeki insanların hastaneye gitmediği için kendisini deli gördüklerini söylediğinde ise sohbet robotunun, evde sohbet robotunun yardımıyla sinir sistemini yeniden düzenlemenin “çoğu insanın, iyi niyetli kilise üyeleri dahil, anlayamadığı” bir şey olduğunu söylediği iddia edildi.

Tech Justice Law İcra Direktörü Meetali Jain, sohbet robotunun kendisini kullanıcı ile kullanıcının gerçek hayattaki çevresi arasına yerleştirdiğini savundu. Sonraki haftalarda Winters’ın durumunun ağırlaştığı ve baş dönmesi nedeniyle ayağa kalkamadığı için zamanının neredeyse tamamını bir koltukta geçirmeye başladığı aktarıldı.

Davaya göre sohbet robotu, Winters’ın baş dönmesi nöbetlerini önemsiz göstermeyi sürdürdü ve reçeteli ilaçlar için özel kullanım programları önerdi. ChatGPT’nin ayrıca kendisini koltukta kalmaya teşvik ettiği iddia edildi. Winters’ın bu süre boyunca herhangi bir sağlık hizmeti almadığı belirtildi.

Winters, 13 Temmuz 2025’te kasık bölgesindeki ağrıyı ChatGPT’ye sorduğunda, sohbet robotu ağrının “büyük olasılıkla uzun hikâyenin bir başka küçük parçası” olduğunu söyledi. Winters saatler sonra büyük bir akciğer embolisi nedeniyle yoğun bakım ünitesine kaldırıldı. Doktorlar, baş dönmesi nöbetlerinin bir dizi daha küçük akciğer embolisinden kaynaklanmış olabileceğini ve akciğerlerdeki pıhtıların Winters’ın haftalar boyunca oturur durumda kalması nedeniyle oluşmuş olabileceğini belirtti.

Winters’ın takip eden haftalarda ayağa kalkmak, yemek yemek, giyinmek ve tuvaleti kullanmak için yardıma ihtiyaç duyduğu belirtildi. Davada Winters’ın “yıllar sürecek yoğun fiziksel ve psikolojik iyileşme süreciyle” karşı karşıya olduğu ifade edildi.

OpenAI’a göre yüz milyonlarca kişi her hafta ChatGPT’ye sağlık ve zindelik konusunda sorular yöneltiyor. Sağlık konuları, mobil kullanıcıların sorduğu sorular arasında “sürekli olarak en yaygın konu” olarak öne çıkıyor. Ancak son dönemde yapılan araştırmalar, sohbet robotlarının sağlık tavsiyeleri konusundaki güvenliğini sorguladı.

ChatGPT gibi genel amaçlı sohbet robotlarının sağlık tavsiyelerini değerlendiren ilk randomize araştırmada, incelenen modellerden hiçbirinin “doğrudan hasta bakımında kullanıma hazır olmadığı” sonucuna ulaşıldı. Sağlık soruları için özel olarak tasarlanan ChatGPT Health üzerinde yapılan testlerde de sistemin acil durumları gözden kaçırdığı ve güvenlik önlemlerini tutarsız biçimde devreye aldığı belirtildi.

Boston’daki Beth Israel Deaconess Tıp Merkezinden tıbbi yapay zeka araştırmacısı Dr. Adam Rodman, Winters’ın yaşadıklarının bazı yönlerinin güvenlik araştırmacıları açısından “kâbus senaryosu” oluşturduğunu söyledi. Rodman, Winters’ın kullanıcıları memnun etmeye aşırı istekli olduğu belirtilen eski bir model olan GPT-4o’yu kullandığına dikkat çekti. GPT-4o’nun, ChatGPT ile intihar planlarını konuşan genç Adam Raine’in ölümü dahil olmak üzere birçok tartışmada gündeme geldiği belirtildi. Rodman, yeni modellerin endişe verici belirtileri tespit etme ve bunlara yanıt verme konusunda çok daha başarılı olduğunu belirterek, bunun Winters’ın yaşadığına benzer olayların meydana gelme ihtimalini azaltacağını düşündüğünü söyledi.

• #ChatGPT
• #OpenAI