Άντρας συνελήφθη και κρατήθηκε στη φυλακή εξαιτίας βλάβης στο σύστημα αναγνώρισης προσώπου

Η τεχνητή νοημοσύνη, που υποτίθεται ότι βοηθά την αστυνομία να εξιχνιάζει εγκλήματα πιο γρήγορα και με μεγαλύτερη ακρίβεια, βρίσκεται όλο και συχνότερα πίσω από κατεστραμμένες ζωές. Ένα ακόμη ηχηρό περιστατικό από τις ΗΠΑ έθεσε ξανά το ερώτημα: μπορεί να εμπιστεύεται κανείς τα συστήματα αναγνώρισης προσώπου, όταν διακυβεύεται η ελευθερία ενός ανθρώπου;

50 ημέρες στη φυλακή λόγω ενός «παρόμοιου προσώπου»

Ο κάτοικος της Βόρειας Καρολίνας, Τζαλίλ Ρίτσαρντσον, πέρασε περισσότερες από 50 ημέρες στη φυλακή αφότου ένα σύστημα αναγνώρισης προσώπου τον συνέδεσε λανθασμένα με έναν ύποπτο για κλοπή αυτοκινήτου στη Φλόριντα.

Ο αλγόριθμος έδωσε περίπου 85% ταύτιση με βάση την εικόνα από κάμερα ασφαλείας. Αυτό στάθηκε αρκετό για να προχωρήσει η αστυνομία στη σύλληψη. Το βασικό πρόβλημα ήταν ότι η έρευνα ουσιαστικά στηρίχθηκε στο αποτέλεσμα της AI ως κύριο αποδεικτικό στοιχείο, αντί να ελεγχθεί πρώτα το άλλοθι.

Αργότερα αποδείχθηκε ότι τη στιγμή του εγκλήματος ο άνδρας βρισκόταν εκατοντάδες χιλιόμετρα μακριά από τον τόπο του συμβάντος και εργαζόταν στη δουλειά του. Όμως μέχρι τότε είχε ήδη περάσει σχεδόν δύο μήνες υπό κράτηση.

Όχι μεμονωμένο περιστατικό, αλλά σύστημα

Η ιστορία του Ρίτσαρντσον δεν είναι εξαίρεση. Δημοσιογράφοι και υπερασπιστές ανθρωπίνων δικαιωμάτων επισημαίνουν ότι πρόκειται τουλάχιστον για μία από τις 14–15 γνωστές περιπτώσεις στις ΗΠΑ, όπου άνθρωποι συνελήφθησαν ή κατηγορήθηκαν εξαιτίας λανθασμένης ταύτισης σε συστήματα αναγνώρισης προσώπου.

Σε παρόμοιες υποθέσεις, οι αλγόριθμοι έδιναν «υψηλό βαθμό ταύτισης» — 85%, 90% και ακόμη και «σχεδόν 100%», μετά το οποίο η αστυνομία χρησιμοποίησε αυτά τα δεδομένα ως βάση για τη σύλληψη.

Σε πολλές περιπτώσεις οι ερευνητές δεν έλεγξαν βασικά στοιχεία: τη θέση του ατόμου, το ωράριο εργασίας του ή άλλα αντικειμενικά αποδεικτικά στοιχεία.

Πώς λειτουργεί το λάθος που καταστρέφει ζωές.

Το πρόβλημα δεν βρίσκεται μόνο στην τεχνολογία, αλλά και στον τρόπο με τον οποίο χρησιμοποιείται.

Οι ειδικοί επισημαίνουν αρκετούς βασικούς παράγοντες:

χαμηλή ποιότητα των αρχικών εικόνων από τις κάμερες παρακολούθησης

αλγόριθμοι που εκπαιδεύτηκαν σε ελλιπή ή μεροληπτικά δεδομένα

υψηλή πιθανότητα λαθών στη διάκριση προσώπων σε διαφορετικές εθνοτικές ομάδες

υπερβολική εμπιστοσύνη της αστυνομίας στο «ποσοστό ταύτισης»

Έρευνες δείχνουν ότι τέτοια συστήματα μπορεί να κάνουν λάθη πολύ συχνότερα όταν λειτουργούν με ορισμένες ομάδες πληθυσμού, γεγονός που εντείνει τον κίνδυνο άδικων συλλήψεων.

Συνέπειες: κατεστραμμένες ζωές

Ακόμη και μετά την απόσυρση των κατηγοριών, οι συνέπειες για τα θύματα παραμένουν σοβαρές:

— απώλεια εργασίας και εισοδήματος

— καταστροφή της φήμης

— ψυχολογικό τραύμα

— παρατεταμένη παραμονή στο σύστημα ποινικής δίωξης

Σε ορισμένες περιπτώσεις άνθρωποι πέρασαν πίσω από τα κάγκελα εβδομάδες και μήνες, προτού αποδείξουν την αθωότητά τους.

Οι υπερασπιστές ανθρωπίνων δικαιωμάτων ζητούν περιορισμούς

Η Αμερικανική Ένωση Πολιτικών Ελευθεριών (ACLU) και άλλες οργανώσεις έχουν ήδη καταθέσει σειρά αγωγών κατά της αστυνομίας και των αρχών, υποστηρίζοντας ότι η χρήση της AI χωρίς αυστηρούς περιορισμούς παραβιάζει τα βασικά δικαιώματα των πολιτών.

Οι νομικοί τονίζουν: η τεχνολογία μπορεί να χρησιμοποιείται μόνο ως βοηθητικό εργαλείο και όχι ως βάση για σύλληψη.

Ορισμένες πολιτείες των ΗΠΑ έχουν ήδη αρχίσει να επιβάλλουν περιορισμούς ή απαγορεύσεις στη χρήση της αναγνώρισης προσώπου σε εφαρμογές επιβολής του νόμου χωρίς πρόσθετα αποδεικτικά στοιχεία.

Το βασικό ερώτημα δεν είναι η τεχνολογία, αλλά η εμπιστοσύνη

Η ιστορία του Τζαλίλ Ρίτσαρντσον έγινε άλλο ένα προειδοποιητικό σήμα: ακόμη και οι πιο σύγχρονοι αλγόριθμοι δεν μπορούν να αντικαταστήσουν μια πλήρη έρευνα.

Και όσο οι αρχές επιβολής του νόμου συνεχίζουν να αντιμετωπίζουν την AI ως «σχεδόν απόδειξη», ο κίνδυνος νέων λαθών παραμένει υψηλός — και το κόστος αυτών των λαθών μετριέται σε ανθρώπινες ζωές.