Священник подав до суду на ChatGPT через пораду покладатися на Бога під час лікування хвороби

У Флориді колишній пастор Скотт Вінтерс подав позов проти OpenAI та її генерального директора Сема Альтмана, стверджуючи, що поради ChatGPT ледь не коштували йому життя. За словами чоловіка, протягом кількох місяців він звертався до чат-бота зі скаргами на запаморочення, слабкість та інші тривожні симптоми, а нейромережа переконувала його, що підстав для термінового звернення до лікаря немає. Натомість ChatGPT нібито рекомендував більше відпочивати, обмежити фізичну активність і навіть використовував релігійні формулювання, зокрема: «Бог не створював ваше тіло для того, щоб воно нескінченно виходило з ладу».

Як випливає з позову, чоловік дотримувався цих рекомендацій і багато часу проводив у кріслі-реклайнері. Пізніше в нього розвинулася тяжка тромбоемболія легеневої артерії — небезпечний стан, який потребував екстреної госпіталізації. Лікарі повідомили, що тривала малорухливість могла стати однією з причин утворення тромбів. Позивач стверджує, що якби він раніше звернувся по медичну допомогу, тяжких наслідків можна було б уникнути.

У позові OpenAI звинувачують у недбалості та вимагають компенсації збитків, а також впровадження додаткових механізмів безпеки. Серед вимог — обов’язкове припинення діалогу та рекомендація негайно звернутися по екстрену медичну допомогу, якщо користувач описує симптоми, схожі на потенційно смертельно небезпечні стани. Крім того, позивач просить призупинити запуск нових медичних функцій ChatGPT до проведення незалежного аудиту їхньої безпеки.

Коментуючи ситуацію, OpenAI заявила, що ChatGPT не є лікарем і не повинен використовуватися як заміна професійної медичної допомоги. Компанія наголосила, що система призначена лише для надання загальної інформації, а за будь-яких серйозних симптомів користувачі мають звертатися до кваліфікованих фахівців.

Цей процес став одним із найгучніших судових розглядів, пов’язаних із медичними порадами штучного інтелекту. Він знову порушує питання про те, де проходить межа між інформаційною допомогою та фактичною медичною консультацією, а також хто має нести відповідальність, якщо користувач ухвалює рішення, покладаючись на відповіді нейромережі.