Priester verklagt ChatGPT, weil es ihm bei der Behandlung seiner Krankheit riet, auf Gott zu hoffen

In Florida hat der ehemalige Pastor Scott Winters OpenAI und dessen CEO Sam Altman verklagt. Er behauptet, die Ratschläge von ChatGPT hätten ihn beinahe das Leben gekostet. Nach Angaben des Mannes wandte er sich mehrere Monate lang mit Beschwerden über Schwindel, Schwäche und andere beunruhigende Symptome an den Chatbot, doch die künstliche Intelligenz habe ihn davon überzeugt, dass kein Grund für einen dringenden Arztbesuch bestehe. Stattdessen soll ChatGPT ihm empfohlen haben, sich mehr auszuruhen, körperliche Aktivitäten einzuschränken und sogar religiöse Formulierungen zu verwenden, darunter: «Gott hat Ihren Körper nicht dafür geschaffen, unaufhörlich den Dienst zu versagen».

Aus der Klage geht hervor, dass der Mann diesen Empfehlungen folgte und viel Zeit in einem Relaxsessel verbrachte. Später entwickelte er eine schwere Lungenembolie — einen lebensgefährlichen Zustand, der eine sofortige Einweisung ins Krankenhaus erforderlich machte. Die Ärzte teilten ihm mit, dass die lange Immobilität eine der Ursachen für die Bildung von Blutgerinnseln gewesen sein könnte. Der Kläger behauptet, dass schwerwiegende Folgen hätten vermieden werden können, wenn er früher medizinische Hilfe in Anspruch genommen hätte.

In der Klage wird OpenAI Fahrlässigkeit vorgeworfen; außerdem werden Schadenersatz sowie die Einführung zusätzlicher Sicherheitsmechanismen gefordert. Zu den Forderungen gehört, dass der Dialog zwingend beendet und dem Nutzer empfohlen wird, sofort medizinische Notfallhilfe in Anspruch zu nehmen, wenn er Symptome beschreibt, die auf potenziell tödliche Erkrankungen hindeuten. Darüber hinaus bittet der Kläger darum, die Einführung neuer medizinischer Funktionen von ChatGPT bis zum Abschluss einer unabhängigen Sicherheitsprüfung auszusetzen.

OpenAI erklärte in einer Stellungnahme, dass ChatGPT kein Arzt sei und nicht als Ersatz für professionelle medizinische Hilfe verwendet werden dürfe. Das Unternehmen betonte, das System sei lediglich dazu bestimmt, allgemeine Informationen bereitzustellen. Bei allen ernsthaften Symptomen sollten sich Nutzer an qualifizierte Fachkräfte wenden.

Dieses Verfahren ist zu einem der aufsehenerregendsten Gerichtsverfahren im Zusammenhang mit medizinischen Ratschlägen künstlicher Intelligenz geworden. Es wirft erneut die Frage auf, wo die Grenze zwischen informativer Unterstützung und tatsächlicher medizinischer Beratung verläuft und wer die Verantwortung tragen sollte, wenn ein Nutzer Entscheidungen auf Grundlage der Antworten eines KI-Systems trifft.