Rahip, hastalığının tedavisi sırasında Tanrı’ya güvenmesini tavsiye ettiği için ChatGPT’ye dava açtı

Florida’da eski papaz Scott Winters, ChatGPT’nin verdiği tavsiyelerin neredeyse hayatına mal olduğunu öne sürerek OpenAI ve şirketin CEO’su Sam Altman’a dava açtı. Adamın ifadesine göre aylar boyunca baş dönmesi, halsizlik ve diğer endişe verici belirtilerinden sohbet botuna bahsetti, ancak yapay zekâ acilen doktora başvurması için bir neden olmadığını söyledi. Bunun yerine ChatGPT’nin daha fazla dinlenmesini, fiziksel aktivitesini sınırlamasını ve hatta şu ifade gibi dinî söylemler kullanmasını tavsiye ettiği iddia ediliyor: «Tanrı bedeninizi durmadan arıza yapması için yaratmadı».

Davaya göre adam bu tavsiyelere uydu ve yatar koltukta çok zaman geçirdi. Daha sonra acil hastaneye kaldırılmasını gerektiren, hayatı tehdit eden ağır bir pulmoner emboli geliştirdi. Doktorlar, uzun süre hareketsiz kalmanın pıhtı oluşumunun nedenlerinden biri olabileceğini söyledi. Davacı, daha önce tıbbi yardım almış olsaydı ağır sonuçların önlenebileceğini öne sürüyor.

Davada OpenAI ihmal ile suçlanıyor ve tazminat ödenmesinin yanı sıra ek güvenlik mekanizmalarının uygulanması talep ediliyor. Talepler arasında, kullanıcının potansiyel olarak ölümcül durumlara benzeyen belirtiler tarif etmesi hâlinde diyaloğun zorunlu olarak sonlandırılması ve derhâl acil tıbbi yardım alınmasının önerilmesi de bulunuyor. Ayrıca davacı, ChatGPT’nin yeni tıbbi özelliklerinin güvenlikleri bağımsız bir denetimden geçirilene kadar kullanıma sunulmasının durdurulmasını istiyor.

OpenAI, duruma ilişkin yaptığı açıklamada ChatGPT’nin doktor olmadığını ve profesyonel tıbbi yardımın yerine kullanılmaması gerektiğini belirtti. Şirket, sistemin yalnızca genel bilgi sağlamak amacıyla tasarlandığını ve ciddi belirtiler görülmesi hâlinde kullanıcıların nitelikli uzmanlara başvurması gerektiğini vurguladı.

Bu dava, yapay zekânın tıbbi tavsiyeleriyle bağlantılı en ses getiren davalardan biri oldu. Dava, bilgi desteği ile fiilî tıbbi danışmanlık arasındaki sınırın nerede olduğunu ve bir kullanıcının yapay zekânın yanıtlarına güvenerek karar vermesi hâlinde sorumluluğun kime ait olması gerektiğini yeniden gündeme getiriyor.