Ksiądz pozwał ChatGPT za to, że poradził mu polegać na Bogu podczas leczenia choroby

Na Florydzie były pastor Scott Winters pozwał OpenAI i jej dyrektora generalnego Sama Altmana, twierdząc, że porady ChatGPT omal nie kosztowały go życia. Jak twierdzi mężczyzna, przez kilka miesięcy zwracał się do chatbota z dolegliwościami w postaci zawrotów głowy, osłabienia i innych niepokojących objawów, a sztuczna inteligencja przekonywała go, że nie ma powodów do pilnej wizyty u lekarza. Zamiast tego ChatGPT miał zalecać mu więcej odpoczynku, ograniczenie aktywności fizycznej, a nawet stosować sformułowania religijne, w szczególności: «Bóg nie stworzył waszego ciała po to, by bez końca się psuło».

Jak wynika z pozwu, mężczyzna zastosował się do tych zaleceń i spędzał dużo czasu w fotelu rozkładanym. Później rozwinęła się u niego ciężka zatorowość płucna — niebezpieczny stan, który wymagał pilnej hospitalizacji. Lekarze poinformowali, że długotrwałe unieruchomienie mogło być jedną z przyczyn powstania zakrzepów. Powód twierdzi, że gdyby wcześniej zwrócił się o pomoc medyczną, można byłoby uniknąć poważnych konsekwencji.

W pozwie OpenAI oskarżono o zaniedbanie i zażądano odszkodowania, a także wdrożenia dodatkowych mechanizmów bezpieczeństwa. Wśród żądań znalazły się obowiązkowe przerwanie rozmowy i zalecenie natychmiastowego skontaktowania się z pogotowiem, jeśli użytkownik opisuje objawy przypominające potencjalnie śmiertelne schorzenia. Ponadto powód domaga się wstrzymania uruchamiania nowych funkcji medycznych ChatGPT do czasu przeprowadzenia niezależnego audytu ich bezpieczeństwa.

Odnosząc się do sytuacji, OpenAI oświadczyła, że ChatGPT nie jest lekarzem i nie powinien być wykorzystywany jako zamiennik profesjonalnej pomocy medycznej. Firma podkreśliła, że system służy jedynie do udzielania ogólnych informacji, a w przypadku jakichkolwiek poważnych objawów użytkownicy powinni zwrócić się do wykwalifikowanych specjalistów.

Postępowanie to stało się jednym z najgłośniejszych procesów sądowych związanych z poradami medycznymi udzielanymi przez sztuczną inteligencję. Ponownie stawia ono pytanie o to, gdzie przebiega granica między pomocą informacyjną a faktyczną konsultacją medyczną, a także kto powinien ponosić odpowiedzialność, jeśli użytkownik podejmuje decyzje, opierając się na odpowiedziach sztucznej inteligencji.