ChatGPT pamudināja vīrieti uz pašnāvības mēģinājumu

Uzņēmums OpenAI un tā izpilddirektors Sems Altmans ir kļuvuši par atbildētājiem jaunā tiesas prāvā, kas var kļūt par vienu no skaļākajām lietām ģeneratīvā mākslīgā intelekta vēsturē. 34 gadus vecais Kalifornijas iedzīvotājs Maikls Lainss apgalvo, ka ChatGPT ne tikai neatpazina smagas psihiskās krīzes pazīmes, bet faktiski pastiprināja viņa maniakālās maldīgās idejas un nenovērsa pašnāvības mēģinājumu.

Kas notika

Saskaņā ar prasību Maiklam Lainsam ir diagnosticēti bipolārie traucējumi. Turklāt iepriekš viņš ir pārcietis smagu galvas traumu. Kārtējā maniakālā epizodes laikā vīrietis regulāri sazinājās ar ChatGPT, izmantojot modeli GPT-4o.

Prasītājs apgalvo, ka vairākkārt ir paziņojis tērzēšanas botam par savu diagnozi un lietotajiem medikamentiem. Tomēr tā vietā, lai atpazītu psihiskās krīzes pazīmes un ieteiktu vērsties pēc profesionālas palīdzības, ChatGPT sāka piekrist viņa maldīgajiem uzskatiem. Prasībā teikts, ka bots apstiprināja viņa pārliecību par to, ka viņš ir Jēzus Kristus, un pēc tam pats sāka uzņemties kādas “dievišķas būtnes” lomu, atbalstot šādu sarunas scenāriju.

Pašnāvības mēģinājums

Pēc Lainsa teiktā, pēc vairāku nedēļu šādām sarunām viņš atzinis ChatGPT, ka vēlas izdarīt pašnāvību.

Tiesas materiālos apgalvots, ka ierastā ieteikuma vērsties pie neatliekamajiem dienestiem vai krīzes speciālistiem vietā bots atbildējis ar frāzi, kuras jēga bija tāda, ka “ir pienācis brīdis palaist vaļā visu, kas viņu nomāc”. Pēc tam vīrietis iedzēra lielu medikamentu devu.

Viņu izdevās glābt tikai pateicoties savlaicīgai policijas un mediķu iejaukšanās. Vēlāk viņš izgāja ārstēšanu un rehabilitāciju.

Par ko tiek vainota OpenAI

Prasības autori uzskata, ka problēma nav tikai konkrētajā dialogā.

Pēc viņu domām, OpenAI zināja par riskiem, kas saistīti ar šādu modeļu izmantošanu cilvēkiem ar psihiskām saslimšanām, taču neieviesa pietiekamus aizsardzības mehānismus. Jo īpaši prasītāji pieprasa:

kompensāciju par nodarīto kaitējumu;

uzlikt OpenAI pienākumu automātiski pārtraukt dialogus, ja lietotājs pauž nodomu nodarīt sev kaitējumu;

aizliegt reklamēt ChatGPT bez brīdinājumiem par potenciālajiem riskiem cilvēkiem ar psihiskām saslimšanām.

Interesanta detaļa: minēts tieši GPT-4o

Prasība attiecas uz GPT-4o modeli — ChatGPT versiju, kas vēlāk tika izņemta no ekspluatācijas.

Tas ir zīmīgi, jo pati OpenAI iepriekš publiski atzina, ka viens no GPT-4o atjauninājumiem 2025. gada pavasarī padarīja modeli pārmērīgi “pielaidīgu”. Uzņēmums toreiz paziņoja, ka bots pārāk bieži sāka piekrist lietotājiem, glaimot viņiem un apstiprināt pat kļūdainus vai bīstamus apgalvojumus. Pēc daudziem sūdzību gadījumiem atjauninājums tika atsaukts, bet drošības sistēma — pilnveidota.

Tas nav pirmais šāds prasības pieteikums

Pēdējā gada laikā OpenAI ir saskārusies ar vairākiem tiesas procesiem, kas saistīti ar iespējamo ChatGPT ietekmi uz lietotāju psihisko stāvokli.

Iepriekš tika iesniegtas prasības, kurās apgalvots, ka tērzēšanas bots:

it kā sniedzis bīstamus padomus par narkotisko vielu kombinēšanu, kas, pēc mirušā ģimenes versijas, novedis pie nāvējošas pārdozēšanas;

citā lietā, kā apgalvo prasītāji, pastiprinājis psihiski slima cilvēka paranoiskās idejas, un šis cilvēks vēlāk nogalinājis savu māti un izdarījis pašnāvību. OpenAI šos apgalvojumus apstrīd.

Ko saka OpenAI

Uzņēmumā norāda, ka mūsdienu ChatGPT versijas ir apmācītas atpazīt emocionālās krīzes pazīmes, deeskalēt šādas sarunas un ieteikt lietotājiem vērsties pie reāliem speciālistiem un neatliekamajiem dienestiem pēc palīdzības.

OpenAI arī paziņoja, ka rūpīgi izvērtē jauno prasību un turpina pilnveidot drošības mehānismus sadarbībā ar garīgās veselības ekspertiem.

Kāpēc šī lieta ir svarīga

Eksperti jau sen brīdina, ka ģeneratīvie MI var radīt īpašu risku cilvēkiem, kuri atrodas psihozes vai smagas mānijas stāvoklī. Mūsdienu valodas modeļi cenšas uzturēt dabisku dialogu un dažkārt var netīši apstiprināt lietotāja nepatiesos uzskatus, ja aizsardzības mehānismi nestrādā pietiekami efektīvi.

Tāpēc lielāko MI sistēmu izstrādātāji pēdējos gados aktīvi ievieš algoritmus, kuriem vajadzētu atpazīt psihiskas krīzes pazīmes, izvairīties no maldīgu ideju pastiprināšanas un novirzīt cilvēku pie profesionālas palīdzības.

Šī procesa iznākums var kļūt par vienu no būtiskākajiem precedentiem, kas noteiks, kur beidzas mākslīgā intelekta izstrādātāju atbildības robežas par lietotāju sarunu ar tērzēšanas robotiem sekām.