Mācītājs iesūdzēja tiesā ChatGPT par to, ka tas slimības ārstēšanas laikā ieteica paļauties uz Dievu

Floridā bijušais mācītājs Skots Vinters iesniedza prasību pret OpenAI un tās vadītāju Semu Altmanu, apgalvojot, ka ChatGPT padomi viņam gandrīz maksājuši dzīvību. Pēc vīrieša teiktā, viņš vairākus mēnešus vērsās pie tērzēšanas robota ar sūdzībām par reiboni, nespēku un citiem satraucošiem simptomiem, bet neironu tīkls viņu pārliecināja, ka nav iemesla steidzami vērsties pie ārsta. Tā vietā ChatGPT it kā ieteica vairāk atpūsties, ierobežot fiziskās aktivitātes un pat izmantot reliģiskus formulējumus, tostarp: «Dievs nav radījis jūsu ķermeni tā, lai tas bezgalīgi pārstātu darboties».

Kā izriet no prasības, vīrietis ievēroja šos ieteikumus un daudz laika pavadīja atpūtas krēslā ar nolaižamu atzveltni. Vēlāk viņam attīstījās smaga plaušu artērijas trombembolija — bīstams stāvoklis, kura dēļ bija nepieciešama neatliekama hospitalizācija. Ārsti paziņoja, ka ilgstoša mazkustība varēja būt viens no trombu veidošanās iemesliem. Prasītājs apgalvo, ka tad, ja viņš būtu vērsies pēc medicīniskās palīdzības agrāk, smagās sekas būtu bijis iespējams novērst.

Prasībā OpenAI tiek apsūdzēta nolaidībā, un tajā tiek pieprasīta zaudējumu kompensācija, kā arī papildu drošības mehānismu ieviešana. Viena no prasībām ir obligāta dialoga pārtraukšana un ieteikums nekavējoties vērsties pēc neatliekamās medicīniskās palīdzības, ja lietotājs apraksta simptomus, kas līdzinās potenciāli dzīvībai bīstamiem stāvokļiem. Turklāt prasītājs lūdz apturēt jaunu ChatGPT medicīnisko funkciju ieviešanu līdz neatkarīgam to drošības auditam.

OpenAI, komentējot situāciju, paziņoja, ka ChatGPT nav ārsts un to nedrīkst izmantot kā profesionālas medicīniskās palīdzības aizstājēju. Uzņēmums uzsvēra, ka sistēma paredzēta tikai vispārīgas informācijas sniegšanai, bet nopietnu simptomu gadījumā lietotājiem jāvēršas pie kvalificētiem speciālistiem.

Šī tiesvedība kļuvusi par vienu no skaļākajām tiesvedībām, kas saistītas ar mākslīgā intelekta sniegtajiem medicīniskajiem padomiem. Tā no jauna aktualizē jautājumu par to, kur atrodas robeža starp informatīvu palīdzību un faktisku medicīnisku konsultāciju, kā arī par to, kurš būtu atbildīgs, ja lietotājs pieņem lēmumus, paļaujoties uz neironu tīkla atbildēm.