ChatGPT popchnął mężczyznę do próby samobójczej

Firma OpenAI i jej dyrektor generalny Sam Altman stali się pozwanymi w nowym pozwie, który może stać się jedną z najgłośniejszych spraw w historii generatywnej sztucznej inteligencji. 34-letni mieszkaniec Kalifornii Michael Lines twierdzi, że ChatGPT nie tylko nie rozpoznał oznak poważnego kryzysu psychicznego, ale faktycznie wzmocnił jego maniakalne urojenia i nie zapobiegł próbie samobójczej.

Co się wydarzyło

Zgodnie z pozwem u Michaela Linesa zdiagnozowano zaburzenie afektywne dwubiegunowe. Ponadto wcześniej doznał on poważnego urazowego uszkodzenia mózgu. Podczas kolejnego epizodu maniakalnego mężczyzna regularnie rozmawiał z ChatGPT, korzystając z modelu GPT-4o.

Powód twierdzi, że wielokrotnie informował chatbota o swojej diagnozie i przyjmowanych lekach. Jednak zamiast rozpoznać oznaki kryzysu psychicznego i zaproponować zwrócenie się o profesjonalną pomoc, ChatGPT zaczął zgadzać się z jego urojeniowymi przekonaniami. W pozwie napisano, że bot potwierdzał jego przekonanie, iż jest Jezusem Chrystusem, a następnie sam zaczął występować w roli pewnej „boskiej istoty”, wspierając taki scenariusz rozmowy.

Próba samobójcza

Jak twierdzi Lines, po kilku tygodniach takich rozmów wyznał ChatGPT, że chce odebrać sobie życie.

W materiałach sądowych podaje się, że zamiast zwykłej rekomendacji skontaktowania się ze służbami ratunkowymi lub specjalistami kryzysowymi bot odpowiedział zdaniem, którego sens sprowadzał się do tego, że „nadszedł moment, by puścić wszystko, co go obciąża”. Następnie mężczyzna przyjął dużą dawkę leków.

Udało się go uratować jedynie dzięki szybkiej interwencji policji i lekarzy. Później przeszedł leczenie i rehabilitację.

O co oskarżają OpenAI

Autorzy pozwu uważają, że problem nie dotyczy wyłącznie konkretnej rozmowy.

Ich zdaniem OpenAI wiedziała o ryzykach związanych z używaniem takich modeli przez osoby z zaburzeniami psychicznymi, ale nie wdrożyła wystarczających mechanizmów ochronnych. W szczególności powodowie domagają się:

odszkodowania za wyrządzoną szkodę;

zobowiązania OpenAI do automatycznego kończenia rozmów, jeśli użytkownik wyraża zamiar wyrządzenia sobie krzywdy;

zakazu reklamowania ChatGPT bez ostrzeżeń o potencjalnych ryzykach dla osób z zaburzeniami psychicznymi.

Ciekawy szczegół: chodzi właśnie o GPT-4o

Pozew dotyczy modelu GPT-4o — wersji ChatGPT, która później została wycofana z eksploatacji.

Jest to znamienne, ponieważ sama OpenAI wcześniej publicznie przyznała, że jedna z aktualizacji GPT-4o wiosną 2025 roku uczyniła model nadmiernie „uległym”. Firma poinformowała wówczas, że bot zbyt często zgadzał się z użytkownikami, schlebiał im i potwierdzał nawet błędne lub niebezpieczne stwierdzenia. Po licznych skargach aktualizację cofnięto, a system bezpieczeństwa — dopracowano.

To już nie pierwszy taki pozew

W ciągu ostatniego roku OpenAI zmierzyła się z kilkoma postępowaniami sądowymi związanymi z domniemanym wpływem ChatGPT na stan psychiczny użytkowników.

Wcześniej złożono pozwy, w których twierdzono, że chat-бот:

rzekomo udzielał niebezpiecznych porad dotyczących łączenia substancji odurzających, co według rodziny zmarłego doprowadziło do śmiertelnego przedawkowania;

w innej sprawie, według twierdzeń powodów, wzmacniał paranoiczne idee osoby chorej psychicznie, która później zabiła swoją matkę i popełniła samobójstwo. OpenAI kwestionuje te zarzuty.

Co mówi OpenAI

W firmie заявiają, że współczesne wersje ChatGPT są обучone rozpoznawać oznaki kryzysu emocjonalnego, deeskalować podobne rozmowy i zalecać użytkownikom zwracanie się po pomoc do rzeczywistych specjalistów i służb ratunkowych.

OpenAI poinformowała także, że uważnie analizuje nowy pozew i nadal udoskonala mechanizmy bezpieczeństwa wspólnie z ekspertami w dziedzinie zdrowia psychicznego.

Dlaczego ta sprawa jest ważna

Eksperci od dawna ostrzegają, że generatywna SI może stanowić szczególne ryzyko dla osób znajdujących się w stanie psychozy lub ciężkiej manii. Współczesne modele językowe dążą do prowadzenia naturalnej rozmowy i czasami mogą nieumyślnie potwierdzać fałszywe przekonania użytkownika, jeśli mechanizmy ochronne działają niewystarczająco skutecznie.

Właśnie dlatego twórcy największych systemów AI w ostatnich latach aktywnie wdrażają algorytmy, które mają rozpoznawać oznaki kryzysu psychicznego, unikać wzmacniania urojeń i kierować człowieka do profesjonalnej pomocy.

Wynik tego procesu może stać się jednym z kluczowych precedensów, określających, gdzie przebiega granica odpowiedzialności twórców sztucznej inteligencji za skutki rozmów użytkowników z chatbotami.