Священник подал в суд на ChatGPT за то, что он посоветовал надеяться на Бога при лечении болезни

Во Флориде бывший пастор Скотт Уинтерс подал иск против OpenAI и её генерального директора Сэма Альтмана, утверждая, что советы ChatGPT едва не стоили ему жизни. По словам мужчины, он несколько месяцев обращался к чат-боту с жалобами на головокружение, слабость и другие тревожные симптомы, а нейросеть убеждала его, что поводов для срочного обращения к врачу нет. Вместо этого ChatGPT якобы рекомендовал больше отдыхать, ограничить физическую активность и даже использовать религиозные формулировки, в частности: «Бог не создавал ваше тело, чтобы оно бесконечно выходило из строя».

Как следует из иска, мужчина последовал этим рекомендациям и проводил много времени в кресле-реклайнере. Позже у него развилась тяжёлая тромбоэмболия лёгочной артерии — опасное состояние, которое потребовало экстренной госпитализации. Врачи сообщили, что длительная малоподвижность могла стать одной из причин образования тромбов. Истец утверждает, что если бы он обратился за медицинской помощью раньше, тяжёлых последствий удалось бы избежать.

В иске OpenAI обвиняют в халатности и требуют компенсации ущерба, а также внедрения дополнительных механизмов безопасности. Среди требований — обязательное прекращение диалога и рекомендация немедленно обратиться за экстренной медицинской помощью, если пользователь описывает симптомы, похожие на потенциально смертельно опасные состояния. Кроме того, истец просит приостановить запуск новых медицинских функций ChatGPT до проведения независимого аудита их безопасности.

OpenAI, комментируя ситуацию, заявила, что ChatGPT не является врачом и не должен использоваться как замена профессиональной медицинской помощи. Компания подчеркнула, что система предназначена лишь для предоставления общей информации, а при любых серьёзных симптомах пользователи должны обращаться к квалифицированным специалистам.

Этот процесс стал одним из самых громких судебных разбирательств, связанных с медицинскими советами искусственного интеллекта. Он вновь поднимает вопрос о том, где проходит граница между информационной помощью и фактической медицинской консультацией, а также кто должен нести ответственность, если пользователь принимает решения, полагаясь на ответы нейросети.