Ο αστυνομικός παρήγαγε αποδείξεις με τη βοήθεια της τεχνητής νοημοσύνης

Η Βρετανία βρέθηκε αντιμέτωπη με ένα από τα πιο ανησυχητικά προηγούμενα της εποχής της τεχνητής νοημοσύνης. Αστυνομικός από την κομητεία Ντέρμπισιρ τέθηκε σε διαθεσιμότητα και εις βάρος του ξεκίνησε ποινική έρευνα, έπειτα από κατηγορίες ότι χρησιμοποίησε την ΤΝ για τη δημιουργία υλικού που θα μπορούσε να επηρεάσει την έκβαση δικαστικών υποθέσεων. Τώρα, υπό έλεγχο έχουν τεθεί ακόμη και ήδη εκδοθείσες καταδίκες για βαριά εγκλήματα.

Τι συνέβη

Σύμφωνα με τα βρετανικά ΜΜΕ, στέλεχος της αστυνομίας του Ντέρμπισιρ φέρεται να χρησιμοποίησε γενετική τεχνητή νοημοσύνη για την προετοιμασία των λεγόμενων «αποδεικτικών υλικών» σε σειρά ποινικών υποθέσεων. Η έρευνα εξετάζει το ενδεχόμενο παρεμπόδισης της δικαιοσύνης — ενός από τα σοβαρότερα αδικήματα κατά του δικαστικού συστήματος της Βρετανίας.

Ο αξιωματικός έχει ήδη τεθεί εκτός επιχειρησιακών καθηκόντων. Το όνομά του δεν έχει αποκαλυφθεί και η έρευνα διεξάγεται από κοινού με την αστυνομία και την Υπηρεσία του Στέμματος για τις Διωκτικές Αρχές (CPS). Προς το παρόν δεν έχουν γίνει συλλήψεις, ωστόσο οι αρχές αναγνωρίζουν ότι η υπόθεση βρίσκεται σε πρώιμο στάδιο και ενδέχεται να έχει σοβαρές συνέπειες.

Σε κίνδυνο βρέθηκαν πραγματικές δικαστικές αποφάσεις

Η πιο ηχηρή εξέλιξη ήρθε όταν έγινε γνωστό ότι οι βρετανικές αρχές άρχισαν να επανεξετάζουν αρκετές υποθέσεις βιασμού στις οποίες εμπλεκόταν ο ύποπτος ντετέκτιβ. Σύμφωνα με πηγές που γνωρίζουν την έρευνα, ο αστυνομικός φέρεται να έδινε στην ΤΝ εντολές να συντάσσει έγγραφα με τρόπο που να στηρίζουν όσο το δυνατόν περισσότερο τη θέση της κατηγορούσας αρχής.

Μεταξύ των αμφισβητούμενων εγγράφων αναφέρονται:

— δηλώσεις για τον αντίκτυπο του εγκλήματος στα θύματα;

— αναλυτικά σημειώματα για τους εισαγγελείς;

— υλικό που προοριζόταν για τη λήψη απόφασης σχετικά με την άσκηση δίωξης.

Εάν επιβεβαιωθούν αυτές οι κατηγορίες, δεν θα πρόκειται πλέον απλώς για απρόσεκτη χρήση της τεχνολογίας, αλλά για συνειδητή προσπάθεια ενίσχυσης της κατηγορητικής θέσης με τη βοήθεια αλγορίθμου.

Η πρώτη τέτοια περίπτωση στην ιστορία της Βρετανίας

Οι ειδικοί χαρακτηρίζουν την έρευνα ως την πρώτη γνωστή περίπτωση στη Βρετανία όπου αστυνομικός θεωρείται ύποπτος για τη δημιουργία αποδείξεων με τη βοήθεια τεχνητής νοημοσύνης.

Ιδιαίτερη ανησυχία προκαλεί το γεγονός ότι το περιστατικό σημειώθηκε μόλις λίγες ημέρες μετά την έναρξη του εθνικού κέντρου PoliceAI — μιας δομής που δημιουργήθηκε για την ενσωμάτωση της ΤΝ στην εργασία της βρετανικής αστυνομίας. Η ηγεσία του κέντρου ήδη δήλωσε ότι ορισμένες μονάδες έλαβαν σύσταση να απέχουν προσωρινά από τη χρήση γενετικής ΤΝ κατά την προετοιμασία δικαστικών εγγράφων, μέχρι να υπάρξουν αξιόπιστοι μηχανισμοί ελέγχου.

Το πρόβλημα αποδείχθηκε βαθύτερο απ’ ό,τι φαίνεται

Το σκάνδαλο ξέσπασε στο φόντο των αυξανόμενων ανησυχιών για τις λεγόμενες «παραισθήσεις» της τεχνητής νοημοσύνης — περιπτώσεις κατά τις οποίες το νευρωνικό δίκτυο παρουσιάζει με βεβαιότητα ψευδή πληροφορία ως αληθή.

Στη Βρετανία είχαν ήδη σημειωθεί στο παρελθόν ηχηρές περιπτώσεις όπου η ΤΝ επινοούσε ανύπαρκτα δικαστικά προηγούμενα ή ακόμη και φανταστικά γεγονότα. Ένα πρόσφατο περιστατικό οδήγησε στο να χρησιμοποιήσει η αστυνομία πληροφορίες για έναν ποδοσφαιρικό αγώνα που δεν υπήρξε ποτέ, καθώς τα δεδομένα αυτά είχαν παραχθεί από νευρωνικό δίκτυο.

Ωστόσο, η τρέχουσα έρευνα θεωρείται πολύ σοβαρότερη. Αν παλαιότερα επρόκειτο για αμέλεια και ανεπαρκή έλεγχο των δεδομένων, τώρα οι ερευνητές εξετάζουν την πιθανότητα στοχευμένης χρήσης της ΤΝ για τη διαμόρφωση της επιθυμητής εκδοχής των γεγονότων.

Γιατί αυτό είναι σημαντικό για όλο τον κόσμο

Η υπόθεση από το Ντέρμπισιρ έγινε προειδοποίηση για τις διωκτικές αρχές πολύ πέρα από τα σύνορα της Βρετανίας. Όλο και περισσότερες χώρες ενσωματώνουν την τεχνητή νοημοσύνη στις έρευνες, στην ανάλυση εγγράφων και στον εντοπισμό υπόπτων. Όμως όσο διευρύνονται οι δυνατότητες της τεχνολογίας, τόσο αυξάνεται ο κίνδυνος κατάχρησης.

Οι νομικοί επισημαίνουν ότι το παραδοσιακό σύστημα δικαιοσύνης στηρίζεται στην αρχή της αξιοπιστίας των αποδείξεων και στη δυνατότητα επαλήθευσης της προέλευσής τους. Όταν στη διαδικασία παρεμβαίνει η γενετική ΤΝ, γίνεται πολύ δυσκολότερο να διαπιστωθεί πού τελειώνουν τα πραγματικά γεγονότα και πού αρχίζει η μηχανική φαντασία.

Σήμερα οι Βρετανοί ερευνητές προσπαθούν να απαντήσουν σε ένα ερώτημα που μέχρι πρόσφατα έμοιαζε με σενάριο επιστημονικής φαντασίας: τι γίνεται αν τις αποδείξεις σε μια ποινική υπόθεση δεν τις έγραψε άνθρωπος, αλλά αλγόριθμος;

Και από την απάντηση σε αυτό το ερώτημα μπορεί να εξαρτηθεί η εμπιστοσύνη στο δικαστικό σύστημα στην εποχή της τεχνητής νοημοσύνης.