Vīrieti arestēja un turēja cietumā sejas atpazīšanas sistēmas kļūdas dēļ

Mākslīgais intelekts, kam būtu jāpalīdz policijai ātrāk un precīzāk atklāt noziegumus, arvien biežāk kļūst par salauztu dzīves stāstu cēloni. Kārtējais skaļais gadījums no ASV atkal aktualizējis jautājumu: vai var uzticēties sejas atpazīšanas sistēmām, ja likme ir cilvēka brīvība?

50 dienas cietumā “līdzīgas sejas” dēļ

Ziemeļkarolīnas iedzīvotājs Džalils Ričardsons pavadīja vairāk nekā 50 dienas cietumā pēc tam, kad sejas atpazīšanas sistēma kļūdaini sasaistīja viņu ar aizdomās turēto automašīnas zādzības lietā Floridā.

Algoritms pēc novērošanas kameru attēla uzrādīja aptuveni 85% sakritību. Tas izrādījās pietiekami, lai policija veiktu arestu. Galvenā problēma bija tā, ka izmeklēšana faktiski balstījās uz AI rezultātu kā uz galveno pierādījumu, nevis vispirms pārbaudīja alibi.

Vēlāk noskaidrojās, ka nozieguma brīdī vīrietis atradās simtiem kilometru no notikuma vietas un bija savā darbā. Taču līdz tam viņš jau bija pavadījis gandrīz divus mēnešus apcietinājumā.

Nevis atsevišķs gadījums, bet sistēma

Ričardsona stāsts nav izņēmums. Žurnālisti un cilvēktiesību aizstāvji norāda, ka šis ir vismaz viens no 14–15 zināmajiem gadījumiem ASV, kad cilvēki tikuši arestēti vai apsūdzēti kļūdainas sakritības dēļ sejas atpazīšanas sistēmās.

Līdzīgos lietu gadījumos algoritmi uzrādīja “augstu sakritības pakāpi” — 85%, 90% un pat “gandrīz 100%”, pēc kā policija izmantoja šos datus kā pamatu aizturēšanai.

Daudzos gadījumos izmeklētāji nepārbaudīja pamata faktus: cilvēka atrašanās vietu, viņa darba grafiku vai citus objektīvus pierādījumus.

Kā darbojas kļūda, kas salauž likteņus.

Problēma slēpjas ne tikai tehnoloģijās, bet arī tajā, kā tās tiek izmantotas.

Eksperti norāda vairākus galvenos faktorus:

zema sākotnējo novērošanas kameru attēlu kvalitāte

algoritmi, kas apmācīti uz nepilnīgiem vai tendencioziem datiem

augsta kļūdu iespējamība, atšķirot sejas dažādās etniskajās grupās

policijas pārmērīga uzticēšanās “sakritības procentam”

Pētījumi liecina, ka šādas sistēmas var kļūdīties ievērojami biežāk, strādājot ar noteiktām iedzīvotāju grupām, kas palielina netaisnīgu arestu risku.

Sekas: salauztas dzīves

Pat pēc apsūdzību atcelšanas sekas cietušajiem paliek nopietnas:

— darba un ienākumu zaudējums

— reputācijas graušana

— psiholoģiska trauma

— ilgstoša uzturēšanās kriminālprocesa sistēmā

Atsevišķos gadījumos cilvēki pavadīja aiz restēm nedēļas un mēnešus, pirms pierādīja savu nevainību.

Cilvēktiesību aizstāvji pieprasa ierobežojumus

Amerikas Pilsoņu brīvību savienība (ACLU) un citas organizācijas jau ir iesniegušas vairākas prasības pret policiju un varas iestādēm, apgalvojot, ka AI izmantošana bez stingriem ierobežojumiem pārkāpj pilsoņu pamattiesības.

Juristi uzsver: tehnoloģiju var izmantot tikai kā palīginstrumentu, bet ne kā pamatu arestam.

Daži ASV štati jau ir sākuši ieviest ierobežojumus vai aizliegumus sejas atpazīšanas izmantošanai tiesībaizsardzības nolūkos bez papildu pierādījumiem.

Galvenais jautājums nav tehnoloģijā, bet uzticībā

Ričardsona stāsts kļuvis par kārtējo signālu: pat vismodernākie algoritmi nevar aizstāt pilnvērtīgu izmeklēšanu.

Un, kamēr tiesībsargājošās iestādes turpina uztvert AI kā “gandrīz pierādījumu”, jaunu kļūdu risks saglabājas augsts — bet šo kļūdu cena tiek mērīta cilvēku dzīvēs.