Πάστορας μήνυσε το ChatGPT επειδή τον συμβούλεψε να βασιστεί στον Θεό για τη θεραπεία της ασθένειάς του

Στη Φλόριντα, ο πρώην πάστορας Σκοτ ​​Γουίντερς κατέθεσε αγωγή κατά της OpenAI και του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, υποστηρίζοντας ότι οι συμβουλές του ChatGPT λίγο έλειψε να του κοστίσουν τη ζωή. Σύμφωνα με τον άνδρα, επί αρκετούς μήνες απευθυνόταν στο chatbot αναφέροντας ζάλη, αδυναμία και άλλα ανησυχητικά συμπτώματα, ενώ το νευρωνικό δίκτυο τον διαβεβαίωνε ότι δεν υπήρχε λόγος να απευθυνθεί επειγόντως σε γιατρό. Αντ’ αυτού, το ChatGPT φέρεται να του συνέστησε να ξεκουράζεται περισσότερο, να περιορίσει τη σωματική δραστηριότητα και μάλιστα να χρησιμοποιεί θρησκευτικές διατυπώσεις, όπως: «Ο Θεός δεν δημιούργησε το σώμα σας για να καταρρέει ασταμάτητα».

Όπως προκύπτει από την αγωγή, ο άνδρας ακολούθησε αυτές τις συστάσεις και περνούσε πολύ χρόνο σε πολυθρόνα-ανάκλιντρο. Αργότερα εμφάνισε σοβαρή πνευμονική εμβολή — μια επικίνδυνη κατάσταση που απαιτούσε επείγουσα νοσηλεία. Οι γιατροί ανέφεραν ότι η παρατεταμένη ακινησία μπορεί να αποτέλεσε μία από τις αιτίες σχηματισμού θρόμβων. Ο ενάγων υποστηρίζει ότι, αν είχε αναζητήσει νωρίτερα ιατρική βοήθεια, θα μπορούσαν να είχαν αποφευχθεί οι σοβαρές συνέπειες.

Στην αγωγή, η OpenAI κατηγορείται για αμέλεια και ζητείται αποζημίωση, καθώς και η εφαρμογή πρόσθετων μηχανισμών ασφαλείας. Μεταξύ των αιτημάτων είναι η υποχρεωτική διακοπή της συνομιλίας και η σύσταση για άμεση αναζήτηση επείγουσας ιατρικής βοήθειας, όταν ο χρήστης περιγράφει συμπτώματα που παραπέμπουν σε δυνητικά θανατηφόρες καταστάσεις. Επιπλέον, ο ενάγων ζητά να ανασταλεί η κυκλοφορία νέων ιατρικών λειτουργιών του ChatGPT έως ότου διενεργηθεί ανεξάρτητος έλεγχος της ασφάλειάς τους.

Η OpenAI, σχολιάζοντας την υπόθεση, δήλωσε ότι το ChatGPT δεν είναι γιατρός και δεν πρέπει να χρησιμοποιείται ως υποκατάστατο της επαγγελματικής ιατρικής βοήθειας. Η εταιρεία τόνισε ότι το σύστημα προορίζεται μόνο για την παροχή γενικών πληροφοριών και ότι, σε περίπτωση σοβαρών συμπτωμάτων, οι χρήστες πρέπει να απευθύνονται σε ειδικευμένους επαγγελματίες.

Η υπόθεση成为 μία από τις πιο ηχηρές δικαστικές διαμάχες που συνδέονται με ιατρικές συμβουλές από την τεχνητή νοημοσύνη. Επαναφέρει στο προσκήνιο το ερώτημα για το πού βρίσκεται η διαχωριστική γραμμή μεταξύ της πληροφοριακής βοήθειας και της ουσιαστικής ιατρικής συμβουλής, καθώς και για το ποιος πρέπει να φέρει την ευθύνη όταν ένας χρήστης λαμβάνει αποφάσεις βασιζόμενος στις απαντήσεις ενός νευρωνικού δικτύου.