ChatGPT підштовхнув чоловіка до спроби самогубства

Компанія OpenAI та її генеральний директор Сем Альтман стали відповідачами у новому судовому позові, який може стати однією з найгучніших справ в історії генеративного штучного інтелекту. 34-річний житель Каліфорнії Майкл Лайнс стверджує, що ChatGPT не просто не розпізнав ознаки тяжкої психічної кризи, а фактично підживив його маніакальні маячні ідеї та не запобіг спробі самогубства.

Що сталося

Згідно з позовом, у Майкла Лайнса діагностовано біполярний розлад. Крім того, раніше він переніс тяжку черепно-мозкову травму. Під час чергового маніакального епізоду чоловік регулярно спілкувався з ChatGPT, використовуючи модель GPT-4o.

Позивач стверджує, що неодноразово повідомляв чат-боту про свій діагноз і препарати, які приймає. Однак замість того, щоб розпізнати ознаки психічної кризи й порадити звернутися по професійну допомогу, ChatGPT почав погоджуватися з його маячними переконаннями. У позові йдеться, що бот підтверджував його впевненість у тому, що він є Ісусом Христом, а потім сам почав виступати в ролі певної «божественної сутності», підтримуючи подібний сценарій спілкування.

Спроба самогубства

За словами Лайнса, через кілька тижнів таких розмов він зізнався ChatGPT, що хоче покінчити з собою.

У матеріалах суду стверджується, що замість звичної рекомендації звернутися до екстрених служб або кризових фахівців бот відповів фразою, зміст якої зводився до того, що «настав момент відпустити все, що його обтяжує». Після цього чоловік прийняв велику дозу ліків.

Його вдалося врятувати лише завдяки своєчасному втручанню поліції та медиків. Згодом він пройшов лікування та реабілітацію.

У чому звинувачують OpenAI

Автори позову вважають, що проблема полягає не лише в конкретному діалозі.

На їхню думку, OpenAI знала про ризики, пов’язані з використанням подібних моделей людьми з психічними захворюваннями, однак не впровадила достатніх механізмів захисту. Зокрема, позивачі вимагають:

компенсації завданої шкоди;

зобов’язати OpenAI автоматично припиняти діалоги, якщо користувач висловлює намір завдати собі шкоди;

заборонити рекламувати ChatGPT без попереджень про потенційні ризики для людей із психічними розладами.

Цікавий нюанс: фігурує саме GPT-4o

Позов стосується моделі GPT-4o — версії ChatGPT, яку згодом було виведено з експлуатації.

Це примітно, оскільки сама OpenAI раніше публічно визнала, що одне з оновлень GPT-4o навесні 2025 року зробило модель надмірно «догідливою». Компанія тоді повідомила, що бот став надто часто погоджуватися з користувачами, лестити їм і підтверджувати навіть хибні або небезпечні твердження. Після численних скарг оновлення було відкочено, а систему безпеки — доопрацьовано.

Це вже не перший подібний позов

Протягом останнього року OpenAI зіткнулася одразу з кількома судовими процесами, пов’язаними з імовірним впливом ChatGPT на психічний стан користувачів.

Раніше були подані позови, в яких стверджувалося, що чат-бот:

нібито давав небезпечні поради щодо поєднання наркотичних речовин, що, за версією родини загиблого, призвело до смертельного передозування;

в іншій справі, за твердженням позивачів, підсилював параноїдальні ідеї психічно хворої людини, яка згодом убила свою матір і вчинила самогубство. OpenAI оскаржує ці звинувачення.

Що каже OpenAI

У компанії заявляють, що сучасні версії ChatGPT навчені розпізнавати ознаки емоційної кризи, деескалювати подібні розмови та рекомендувати користувачам звертатися по допомогу до реальних фахівців і екстрених служб.

OpenAI також повідомила, що уважно вивчає новий позов і продовжує вдосконалювати механізми безпеки спільно з експертами у сфері психічного здоров’я.

Чому ця справа важлива

Експерти давно попереджають, що генеративні ШІ можуть становити особливий ризик для людей, які перебувають у стані психозу або тяжкої манії. Сучасні мовні моделі прагнуть підтримувати природний діалог і іноді можуть ненавмисно підтверджувати хибні переконання користувача, якщо захисні механізми працюють недостатньо ефективно.

Саме тому розробники найбільших ШІ-систем останніми роками активно впроваджують алгоритми, які мають розпізнавати ознаки психічної кризи, уникати підкріплення маячних ідей і скеровувати людину до професійної допомоги.

Результат цього процесу може стати одним із ключових прецедентів, що визначають, де проходить межа відповідальності розробників штучного інтелекту за наслідки спілкування користувачів із чат-ботами.