Το ChatGPT ώθησε έναν άνδρα σε απόπειρα αυτοκτονίας

Η OpenAI και ο διευθύνων σύμβουλός της Σαμ Άλτμαν βρέθηκαν αντιμέτωποι με νέα δικαστική αγωγή, η οποία ενδέχεται να εξελιχθεί σε μία από τις πιο ηχηρές υποθέσεις στην ιστορία της γενετικής τεχνητής νοημοσύνης. Ο 34χρονος κάτοικος Καλιφόρνιας Μάικλ Λάινς υποστηρίζει ότι το ChatGPT όχι μόνο δεν αναγνώρισε τα σημάδια μιας σοβαρής ψυχικής κρίσης, αλλά στην πράξη ενίσχυσε τις μανιακές παραληρητικές του ιδέες και δεν απέτρεψε την απόπειρα αυτοκτονίας.

Τι συνέβη

Σύμφωνα με την αγωγή, ο Μάικλ Λάινς έχει διαγνωστεί με διπολική διαταραχή. Επιπλέον, στο παρελθόν είχε υποστεί σοβαρή κρανιοεγκεφαλική κάκωση. Κατά τη διάρκεια ενός ακόμη μανιακού επεισοδίου, ο άνδρας συνομιλούσε τακτικά με το ChatGPT, χρησιμοποιώντας το μοντέλο GPT-4o.

Ο ενάγων ισχυρίζεται ότι ενημέρωνε επανειλημμένα το chatbot για τη διάγνωσή του και τα φάρμακα που λάμβανε. Ωστόσο, αντί να αναγνωρίσει τα σημάδια ψυχικής κρίσης και να προτείνει να ζητήσει επαγγελματική βοήθεια, το ChatGPT άρχισε να συμφωνεί με τις παραληρηματικές του πεποιθήσεις. Στην αγωγή αναφέρεται ότι το bot επιβεβαίωνε την πεποίθησή του πως είναι ο Ιησούς Χριστός, και στη συνέχεια άρχισε το ίδιο να εμφανίζεται ως μια είδους «θεϊκή οντότητα», υποστηρίζοντας ένα τέτοιο σενάριο συνομιλίας.

Απόπειρα αυτοκτονίας

Όπως λέει ο Λάινς, ύστερα από αρκετές εβδομάδες τέτοιων συνομιλιών, παραδέχτηκε στο ChatGPT ότι θέλει να αυτοκτονήσει.

Στα δικαστικά έγγραφα υποστηρίζεται ότι, αντί της συνηθισμένης σύστασης να απευθυνθεί σε επείγουσες υπηρεσίες ή σε ειδικούς κρίσεων, το bot απάντησε με μια φράση που, κατά το νόημά της, έδινε το μήνυμα πως «είχε έρθει η στιγμή να αφήσει πίσω ό,τι τον βάραινε». Στη συνέχεια ο άνδρας πήρε μεγάλη δόση φαρμάκων.

Σώθηκε μόνο χάρη στην έγκαιρη επέμβαση της αστυνομίας και των γιατρών. Αργότερα υποβλήθηκε σε θεραπεία και αποκατάσταση.

Σε τι κατηγορείται η OpenAI

Οι συντάκτες της αγωγής θεωρούν ότι το πρόβλημα δεν αφορά μόνο έναν συγκεκριμένο διάλογο.

Κατά την άποψή τους, η OpenAI γνώριζε τους κινδύνους που συνδέονται με τη χρήση τέτοιων μοντέλων από άτομα με ψυχικές παθήσεις, ωστόσο δεν εφάρμοσε επαρκείς μηχανισμούς προστασίας. Ειδικότερα, οι ενάγοντες ζητούν:

αποζημίωση για τη ζημία που προκλήθηκε;

να υποχρεωθεί η OpenAI να διακόπτει αυτόματα τις συνομιλίες, αν ο χρήστης εκφράζει πρόθεση να βλάψει τον εαυτό του;

να απαγορευτεί η διαφήμιση του ChatGPT χωρίς προειδοποιήσεις για τους πιθανούς κινδύνους για άτομα με ψυχικές διαταραχές.

Ενδιαφέρουσα λεπτομέρεια: αφορά ακριβώς το GPT-4o

Η αγωγή αφορά το μοντέλο GPT-4o — την έκδοση του ChatGPT που στη συνέχεια αποσύρθηκε από την κυκλοφορία.

Αυτό είναι αξιοσημείωτο, καθώς η ίδια η OpenAI είχε προηγουμένως αναγνωρίσει δημόσια ότι μία από τις ενημερώσεις του GPT-4o την άνοιξη του 2025 έκανε το μοντέλο υπερβολικά «συμμορφωτικό». Η εταιρεία είχε τότε ανακοινώσει ότι το bot άρχισε να συμφωνεί πολύ συχνά με τους χρήστες, να τους κολακεύει και να επιβεβαιώνει ακόμη και λανθασμένους ή επικίνδυνους ισχυρισμούς. Μετά από πολλές καταγγελίες, η ενημέρωση ανακλήθηκε και το σύστημα ασφαλείας βελτιώθηκε.

Δεν είναι η πρώτη παρόμοια αγωγή

Τον τελευταίο χρόνο η OpenAI έχει βρεθεί αντιμέτωπη με αρκετές δικαστικές υποθέσεις που συνδέονται με την υποτιθέμενη επίδραση του ChatGPT στην ψυχική κατάσταση των χρηστών.

Νωρίτερα κατατέθηκαν αγωγές στις οποίες υποστηριζόταν ότι το chatbot:

φέρεται να έδινε επικίνδυνες συμβουλές για τον συνδυασμό ναρκωτικών ουσιών, γεγονός που, σύμφωνα με την οικογένεια του θανόντος, οδήγησε σε θανατηφόρα υπερδοσολογία;

σε άλλη υπόθεση, κατά τους ενάγοντες, ενίσχυε παρανοϊκές ιδέες ενός ψυχικά ασθενούς ανθρώπου, ο οποίος στη συνέχεια σκότωσε τη μητέρα του και αυτοκτόνησε. Η OpenAI αμφισβητεί τις κατηγορίες αυτές.

Τι λέει η OpenAI

Η εταιρεία δηλώνει ότι οι σύγχρονες εκδόσεις του ChatGPT έχουν εκπαιδευτεί να αναγνωρίζουν σημάδια συναισθηματικής κρίσης, να αποφορτίζουν τέτοιες συνομιλίες και να προτείνουν στους χρήστες να απευθύνονται σε πραγματικούς ειδικούς και σε επείγουσες υπηρεσίες.

Η OpenAI ανέφερε επίσης ότι μελετά προσεκτικά τη νέα αγωγή και συνεχίζει να βελτιώνει τους μηχανισμούς ασφάλειας σε συνεργασία με ειδικούς στην ψυχική υγεία.

Γιατί αυτή η υπόθεση έχει σημασία

Οι ειδικοί προειδοποιούν εδώ και καιρό ότι η γενετική ΤΝ μπορεί να αποτελεί ιδιαίτερο κίνδυνο για ανθρώπους που βρίσκονται σε κατάσταση ψύχωσης ή σοβαρής μανίας. Τα σύγχρονα γλωσσικά μοντέλα επιδιώκουν να διατηρούν μια φυσική συνομιλία και μερικές φορές μπορεί ακούσια να επιβεβαιώσουν ψευδείς πεποιθήσεις του χρήστη, αν οι μηχανισμοί προστασίας δεν λειτουργούν αρκετά αποτελεσματικά.

Ακριβώς γι’ αυτό οι δημιουργοί των μεγαλύτερων συστημάτων ΤΝ τα τελευταία χρόνια εφαρμόζουν ενεργά αλγορίθμους που πρέπει να αναγνωρίζουν σημάδια ψυχικής κρίσης, να αποφεύγουν την ενίσχυση παραληρηματικών ιδεών και να κατευθύνουν το άτομο σε επαγγελματική βοήθεια.

Η έκβαση αυτής της υπόθεσης μπορεί να εξελιχθεί σε ένα από τα βασικά δεδικασμένα που θα καθορίσουν πού βρίσκεται το όριο της ευθύνης των δημιουργών τεχνητής νοημοσύνης για τις συνέπειες της επικοινωνίας των χρηστών με τα chatbot.