Η Meta στο επίκεντρο ηχηρού δικαστικού σκανδάλου για αλγορίθμους που ενδέχεται να επέλεγαν ποιοι θα απολύονταν

Στις ΗΠΑ βρίσκεται σε εξέλιξη μία από τις πιο ηχηρές δικαστικές διαδικασίες που συνδέονται με τη χρήση της τεχνητής νοημοσύνης στον χώρο εργασίας. Συνολικά 26 εργαζόμενοι της Meta κατέθεσαν αγωγή κατά της εταιρείας, υποστηρίζοντας ότι κατά τις μαζικές περικοπές προσωπικού οι αλγόριθμοι βοηθούσαν να καθοριστεί ποιοι θα έχαναν τη δουλειά τους. Σύμφωνα με τους ενάγοντες, το σύστημα δεν έκανε διάκριση μεταξύ χαμηλής παραγωγικότητας και νόμιμης απουσίας από την εργασία — είτε επρόκειτο για αναρρωτική άδεια, άδεια μητρότητας ή άδεια φροντίδας συγγενικού προσώπου.

Σύμφωνα με την αγωγή, η εταιρεία χρησιμοποιούσε ένα ολόκληρο δίκτυο εσωτερικών εργαλείων τεχνητής νοημοσύνης και αναλυτικών συστημάτων. Αυτά συγκέντρωναν δεδομένα για σχεδόν κάθε πτυχή της ψηφιακής δραστηριότητας των εργαζομένων: αξιολογούσαν την παραγωγικότητα, ανέλυαν τη χρήση εταιρικών βοηθών τεχνητής νοημοσύνης, τη δραστηριότητα στις εργασιακές συνομιλίες, τα ηλεκτρονικά μηνύματα, το ιστορικό ενεργειών στον υπολογιστή, τον αριθμό των πατημάτων πλήκτρων και ακόμη και το πόσο ενεργά αλληλεπιδρούσε ένα άτομο με τις εσωτερικές υπηρεσίες. Στη συνέχεια, οι αλγόριθμοι απέδιδαν στους εργαζομένους βαθμολογίες αποτελεσματικότητας, οι οποίες, όπως υποστηρίζουν οι ενάγοντες, χρησιμοποιούνταν για την κατάρτιση των λιστών απολύσεων.

Το βασικό πρόβλημα, σύμφωνα με τους καταγγέλλοντες, είναι ότι οι αλγόριθμοι δεν λάμβαναν υπόψη τους δικαιολογημένους λόγους απουσίας. Αν κάποιος βρισκόταν για αρκετούς μήνες σε άδεια μητρότητας, υποβαλλόταν σε θεραπεία μετά από σοβαρή ασθένεια ή φρόντιζε στενό συγγενή, το σύστημα απλώς κατέγραφε μείωση της δραστηριότητάς του. Ως αποτέλεσμα, εργαζόμενοι που είχαν κάνει χρήση των νόμιμων δικαιωμάτων τους μπορούσαν να λαμβάνουν αυτόματα χαμηλότερες αξιολογήσεις και να καταλήγουν μεταξύ των υποψηφίων προς απόλυση. Αυτό ακριβώς, σύμφωνα με τους ενάγοντες, συνέβη κατά το κύμα απολύσεων του Μαΐου, όταν η Meta μείωσε το προσωπικό της κατά περίπου 10% — περίπου 8.000 άτομα.

Ιδιαίτερη attention προκαλεί το γεγονός ότι στην αγωγή αναφέρεται ο εσωτερικός βοηθός τεχνητής νοημοσύνης της Meta με την ονομασία Metamate, καθώς και εξειδικευμένοι πίνακες παρακολούθησης που καταγράφουν τη χρήση εργαλείων νευρωνικών δικτύων από τους εργαζομένους. Οι ενάγοντες υποστηρίζουν ότι τα δεδομένα αυτά αποτελούσαν επίσης μέρος της συνολικής αξιολόγησης της αποτελεσματικότητας.

Η Meta απορρίπτει κατηγορηματικά τις κατηγορίες. Εκπρόσωποι της εταιρείας υποστηρίζουν ότι η τεχνητή νοημοσύνη δεν λάμβανε αποφάσεις για απολύσεις, αλλά χρησιμοποιούνταν μόνο ως βοηθητικό εργαλείο. Σύμφωνα με την εταιρεία, η τελική απόφαση παρέμενε πάντα στους επικεφαλής των τμημάτων. Ωστόσο, ομοσπονδιακός δικαστής έχει ήδη επισημάνει ότι τα επιχειρήματα των εργαζομένων εγείρουν «σοβαρά ερωτήματα» και αξίζουν λεπτομερούς εξέτασης, αν και προς το παρόν αρνήθηκε να αναστείλει προσωρινά τις απολύσεις.

Οι ειδικοί εκτιμούν ότι η υπόθεση μπορεί να αποδειχθεί ιστορική. Εάν το δικαστήριο διαπιστώσει ότι οι αλγόριθμοι πράγματι έκαναν διακρίσεις εις βάρος εργαζομένων, αυτό θα δημιουργήσει ένα σημαντικό νομικό προηγούμενο για ολόκληρο τον κλάδο. Ήδη πολλές μεγάλες εταιρείες χρησιμοποιούν τεχνητή νοημοσύνη για την αξιολόγηση της απόδοσης του προσωπικού, την πρόβλεψη της αποτελεσματικότητας, την κατάρτιση προγραμμάτων εργασίας, ακόμη και την επιλογή υποψηφίων για προαγωγή ή απόλυση. Ωστόσο, αυξάνονται οι ανησυχίες ότι τέτοια συστήματα μπορεί να αναπαράγουν κρυφές προκαταλήψεις, εάν εκπαιδεύονται σε ελλιπή ή εσφαλμένα δεδομένα.

Η δικαστική αυτή διαδικασία μπορεί να αποτελέσει την πρώτη μεγάλη υπόθεση που θα καθορίσει πού βρίσκεται το όριο μεταξύ της χρήσιμης αυτοματοποίησης των διαδικασιών διαχείρισης ανθρώπινου δυναμικού και των παράνομων διακρίσεων μέσω της τεχνητής νοημοσύνης. Εάν το δικαστήριο δικαιώσει τους εργαζομένους, οι τεχνολογικοί κολοσσοί σε όλο τον κόσμο πιθανότατα θα χρειαστεί να επανεξετάσουν τις αρχές λειτουργίας των συστημάτων τεχνητής νοημοσύνης τους κατά τη λήψη αποφάσεων για το προσωπικό.