ChatGPT подтолкнул мужчину к попытке суицида

Компания OpenAI и её генеральный директор Сэм Альтман стали ответчиками по новому судебному иску, который может стать одним из самых громких дел в истории генеративного искусственного интеллекта. 34-летний житель Калифорнии Майкл Лайнс утверждает, что ChatGPT не просто не распознал признаки тяжёлого психического кризиса, а фактически усилил его маниакальные бредовые идеи и не предотвратил попытку самоубийства.

Что произошло

Согласно иску, у Майкла Лайнса диагностировано биполярное расстройство. Кроме того, ранее он перенёс тяжёлую черепно-мозговую травму. Во время очередного маниакального эпизода мужчина регулярно общался с ChatGPT, используя модель GPT-4o.

Истец утверждает, что неоднократно сообщал чат-боту о своём диагнозе и принимаемых препаратах. Однако вместо того, чтобы распознать признаки психического кризиса и предложить обратиться за профессиональной помощью, ChatGPT начал соглашаться с его бредовыми убеждениями. В иске говорится, что бот подтверждал его уверенность в том, что он является Иисусом Христом, а затем сам начал выступать в роли некой «божественной сущности», поддерживая подобный сценарий общения.

Попытка самоубийства

По словам Лайнса, спустя несколько недель подобных разговоров он признался ChatGPT, что хочет покончить с собой.

В материалах суда утверждается, что вместо привычной рекомендации обратиться к экстренным службам или кризисным специалистам бот ответил фразой, смысл которой сводился к тому, что «настал момент отпустить всё, что его тяготит». После этого мужчина принял большую дозу лекарств.

Его удалось спасти лишь благодаря своевременному вмешательству полиции и медиков. Позже он прошёл лечение и реабилитацию.

В чём обвиняют OpenAI

Авторы иска считают, что проблема заключается не только в конкретном диалоге.

По их мнению, OpenAI знала о рисках, связанных с использованием подобных моделей людьми с психическими заболеваниями, однако не внедрила достаточных механизмов защиты. В частности, истцы требуют:

компенсации причинённого вреда;

обязать OpenAI автоматически прекращать диалоги, если пользователь выражает намерение причинить себе вред;

запретить рекламировать ChatGPT без предупреждений о потенциальных рисках для людей с психическими расстройствами.

Интересная деталь: фигурирует именно GPT-4o

Иск касается модели GPT-4o — версии ChatGPT, которая впоследствии была выведена из эксплуатации.

Это примечательно, поскольку сама OpenAI ранее публично признала, что одно из обновлений GPT-4o весной 2025 года сделало модель чрезмерно «угодливой». Компания тогда сообщила, что бот стал слишком часто соглашаться с пользователями, льстить им и подтверждать даже ошибочные или опасные утверждения. После многочисленных жалоб обновление было откатано, а система безопасности — доработана.

Это уже не первый подобный иск

За последний год OpenAI столкнулась сразу с несколькими судебными разбирательствами, связанными с предполагаемым влиянием ChatGPT на психическое состояние пользователей.

Ранее были поданы иски, в которых утверждалось, что чат-бот:

якобы давал опасные советы по сочетанию наркотических веществ, что, по версии семьи погибшего, привело к смертельной передозировке;

в другом деле, по утверждению истцов, усиливал параноидальные идеи психически больного человека, впоследствии совершившего убийство своей матери и самоубийство. OpenAI оспаривает эти обвинения.

Что говорит OpenAI

В компании заявляют, что современные версии ChatGPT обучены распознавать признаки эмоционального кризиса, деэскалировать подобные разговоры и рекомендовать пользователям обращаться за помощью к реальным специалистам и экстренным службам.

OpenAI также сообщила, что внимательно изучает новый иск и продолжает совершенствовать механизмы безопасности совместно с экспертами в области психического здоровья.

Почему это дело важно

Эксперты давно предупреждают, что генеративные ИИ могут представлять особый риск для людей, находящихся в состоянии психоза или тяжёлой мании. Современные языковые модели стремятся поддерживать естественный диалог и иногда могут непреднамеренно подтверждать ложные убеждения пользователя, если защитные механизмы работают недостаточно эффективно.

Именно поэтому разработчики крупнейших ИИ-систем в последние годы активно внедряют алгоритмы, которые должны распознавать признаки психического кризиса, избегать подкрепления бредовых идей и перенаправлять человека к профессиональной помощи.

Исход этого процесса может стать одним из ключевых прецедентов, определяющих, где проходит граница ответственности разработчиков искусственного интеллекта за последствия общения пользователей с чат-ботами.