Meta nonākusi skaļa tiesas skandāla centrā algoritmu dēļ, kas varēja izvēlēties cilvēkus atlaišanai

ASV sācies viens no skaļākajiem tiesas procesiem, kas saistīti ar mākslīgā intelekta izmantošanu darbavietā. Kopumā 26 Meta darbinieki iesnieguši prasību pret uzņēmumu, apgalvojot, ka masveida atlaišanu laikā tieši algoritmi palīdzēja noteikt, kuri zaudēs darbu. Pēc prasītāju teiktā, sistēma nenošķīra zemu produktivitāti no likumīgas prombūtnes darbavietā — neatkarīgi no tā, vai tas bija saistīts ar slimības lapu, grūtniecības un dzemdību atvaļinājumu vai atvaļinājumu tuvinieka kopšanai.

Saskaņā ar prasību uzņēmums izmantoja veselu iekšējo MI rīku un analītisko sistēmu tīklu. Tie apkopoja datus par praktiski visiem darbinieku digitālās aktivitātes aspektiem: novērtēja produktivitāti, analizēja korporatīvo MI palīgu izmantošanu, aktivitāti darba tērzētavās, elektronisko pastu, darbību vēsturi datorā, taustiņu nospiešanas reižu skaitu un pat to, cik aktīvi cilvēks mijiedarbojās ar iekšējiem pakalpojumiem. Pēc tam algoritmi darbiniekiem piešķīra efektivitātes reitingus, kuri, kā apgalvo prasītāji, tika izmantoti atlaižamo darbinieku sarakstu veidošanā.

Pēc prasītāju domām, galvenā problēma ir tā, ka algoritmi neņēma vērā pamatotus prombūtnes iemeslus. Ja cilvēks vairākus mēnešus atradās grūtniecības un dzemdību atvaļinājumā, ārstējās pēc smagas slimības vai aprūpēja tuvu radinieku, sistēma vienkārši fiksēja aktivitātes samazināšanos. Tā rezultātā darbinieki, kuri izmantoja savas likumīgās tiesības, varēja automātiski saņemt zemākus vērtējumus un nonākt starp kandidātiem atlaišanai. Tieši tas, pēc prasītāju teiktā, notika maija atlaišanu vilnī, kad Meta samazināja aptuveni 10% darbaspēka — apmēram 8000 cilvēku.

Īpašu uzmanību pievērš fakts, ka prasībā minēts Meta iekšējais MI palīgs ar nosaukumu Metamate, kā arī specializēti uzraudzības paneļi, kas sekoja tam, kā darbinieki izmanto neironu tīklu rīkus. Prasītāji apgalvo, ka arī šie dati kļuva par daļu no kopējā efektivitātes novērtējuma.

Meta kategoriski noraida apsūdzības. Uzņēmuma pārstāvji apgalvo, ka mākslīgais intelekts nepieņēma lēmumus par atlaišanu, bet tika izmantots tikai kā palīgrīks. Pēc uzņēmuma teiktā, galīgais lēmums vienmēr palika struktūrvienību vadītāju ziņā. Tomēr federālais tiesnesis jau norādījis, ka darbinieku argumenti rada «nopietnus jautājumus» un ir pelnījuši detalizētu izskatīšanu, lai gan pagaidām atteicies uz laiku apturēt atlaišanas.

Eksperti uzskata, ka šis process var kļūt vēsturisks. Ja tiesa konstatēs, ka algoritmi patiešām diskriminēja darbiniekus, tas radīs nozīmīgu juridisku precedentu visai nozarei. Jau šodien daudzi lieli uzņēmumi izmanto MI, lai novērtētu personāla produktivitāti, prognozētu efektivitāti, sastādītu darba grafikus un pat atlasītu kandidātus paaugstināšanai vai atlaišanai. Tomēr arvien biežāk izskan bažas, ka šādas sistēmas var atkārtot slēptus aizspriedumus, ja tās tiek apmācītas, izmantojot nepilnīgus vai nekorektus datus.

Šis tiesas process var kļūt par pirmo lielo lietu, kas noteiks robežu starp noderīgu personāla procesu automatizāciju un nelikumīgu diskrimināciju, izmantojot mākslīgo intelektu. Ja tiesa nostāsies darbinieku pusē, tehnoloģiju gigantiem visā pasaulē, visticamāk, nāksies pārskatīt savu MI sistēmu darbības principus, pieņemot lēmumus par personālu.