Meta w centrum głośnego skandalu sądowego z powodu algorytmów, które mogły wybierać osoby do zwolnienia

W Stanach Zjednoczonych rozpoczyna się jeden z najbardziej głośnych procesów związanych z wykorzystaniem sztucznej inteligencji w miejscu pracy. Aż 26 pracowników Meta pozwało firmę, twierdząc, że podczas masowych zwolnień to właśnie algorytmy pomagały decydować, kto straci pracę. Zdaniem powodów system nie odróżniał niskiej produktywności od zgodnej z prawem nieobecności w pracy — czy to z powodu zwolnienia lekarskiego, urlopu macierzyńskiego, czy urlopu na opiekę nad członkiem rodziny.

Zgodnie z pozwem firma korzystała z całej sieci wewnętrznych narzędzi opartych na sztucznej inteligencji oraz systemów analitycznych. Zbierały one dane dotyczące praktycznie wszystkich aspektów cyfrowej aktywności pracowników: oceniały produktywność, analizowały korzystanie z firmowych asystentów AI, aktywność na czatach służbowych, pocztę elektroniczną, historię działań na komputerze, liczbę naciśnięć klawiszy, a nawet to, jak aktywnie dana osoba korzystała z wewnętrznych serwisów. Następnie algorytmy przypisywały pracownikom oceny efektywności, które, jak twierdzą powodowie, wykorzystywano przy tworzeniu list osób przeznaczonych do zwolnienia.

Zdaniem skarżących główny problem polega na tym, że algorytmy nie uwzględniały uzasadnionych przyczyn nieobecności. Jeśli ktoś przez kilka miesięcy przebywał na urlopie macierzyńskim, przechodził leczenie po ciężkiej chorobie lub opiekował się bliskim członkiem rodziny, system po prostu odnotowywał spadek aktywności. W rezultacie pracownicy korzystający ze swoich praw mogli automatycznie otrzymywać niższe oceny i trafiać na listę kandydatów do zwolnienia. Właśnie to, jak twierdzą powodowie, miało wydarzyć się podczas majowej fali zwolnień, kiedy Meta zwolniła około 10% swoich pracowników — około 8 tysięcy osób.

Szczególną uwagę zwraca fakt, że w pozwie wspomniano wewnętrznego asystenta AI firmy Meta o nazwie Metamate, a także specjalistyczne panele monitorujące korzystanie przez pracowników z narzędzi opartych na sieciach neuronowych. Powodowie twierdzą, że dane te również stawały się częścią ogólnej oceny efektywności.

Meta kategorycznie odrzuca zarzuty. Przedstawiciele firmy twierdzą, że sztuczna inteligencja nie podejmowała decyzji o zwolnieniach, a była wykorzystywana jedynie jako narzędzie pomocnicze. Według firmy ostateczna decyzja zawsze należała do kierowników poszczególnych działów. Sędzia federalny zaznaczył jednak, że argumenty pracowników budzą «poważne pytania» i zasługują na szczegółowe rozpatrzenie, choć na razie odmówił tymczasowego wstrzymania zwolnień.

Eksperci uważają, że proces ten może mieć historyczne znaczenie. Jeśli sąd stwierdzi, że algorytmy rzeczywiście dyskryminowały pracowników, stworzy to ważny precedens prawny dla całej branży. Już dziś wiele dużych firm wykorzystuje AI do oceny produktywności personelu, prognozowania efektywności, układania grafików, a nawet wyboru kandydatów do awansu lub zwolnienia. Coraz częściej pojawiają się jednak obawy, że takie systemy mogą odtwarzać ukryte uprzedzenia, jeśli są szkolone na niepełnych lub nieprawidłowych danych.

Ten proces sądowy może stać się pierwszą dużą sprawą, która wyznaczy granicę między użyteczną automatyzacją procesów kadrowych a bezprawną dyskryminacją z wykorzystaniem sztucznej inteligencji. Jeśli sąd opowie się po stronie pracowników, technologiczni giganci na całym świecie prawdopodobnie będą musieli zrewidować zasady działania swoich systemów AI przy podejmowaniu decyzji kadrowych.