Policists, izmantojot mākslīgo intelektu, ģenerēja pierādījumus

Lielbritānija saskārusies ar vienu no satraucošākajiem mākslīgā intelekta ēras precedenta gadījumiem. Derbišīras grāfistes policistu atstādināja no dienesta, un pret viņu tika sākta kriminālizmeklēšana pēc apsūdzībām, ka viņš izmantojis MI, lai izveidotu materiālus, kas varēja ietekmēt tiesas lietu iznākumu. Tagad pārbaudei tiek pakļauti pat jau pasludinātie spriedumi smagos noziegumos.

Kas notika

Saskaņā ar britu mediju ziņām, Derbišīras policijas darbinieks tiek turēts aizdomās par to, ka viņš izmantojis ģeneratīvo mākslīgo intelektu, lai sagatavotu tā sauktos «pierādījumu materiālus» vairākās krimināllietās. Izmeklēšana izskata versiju par iespējamu tiesvedības kavēšanu — vienu no smagākajiem noziegumiem pret Lielbritānijas tiesu sistēmu.

Virspusējs darbinieks jau ir atstādināts no operatīvā darba. Viņa vārds netiek atklāts, un izmeklēšana notiek kopīgi ar policiju un Kroņa prokuratūras dienestu (CPS). Pagaidām neviens nav aizturēts, tomēr tiesībsargājošās iestādes atzīst, ka lieta ir agrīnā stadijā un tai var būt nopietnas sekas.

Apdraudēti bija reāli tiesas spriedumi

Visplašāk apspriestais pavērsiens notika pēc tam, kad kļuva zināms: Lielbritānijas varas iestādes sākušas pārskatīt vairākas izvarošanas lietas, kurās bija iesaistīts minētais detektīvs. Pēc ar izmeklēšanu saistītu avotu teiktā, policists it kā devis MI komandas sagatavot dokumentus tā, lai tie maksimāli atbalstītu apsūdzības pozīciju.

Starp apstrīdētajiem dokumentiem minēti:

— paziņojumi par nozieguma ietekmi uz cietušajiem;

— analītiskās piezīmes prokuroriem;

— materiāli, kas paredzēti lēmuma pieņemšanai par apsūdzības celšanu.

Ja šie apgalvojumi apstiprināsies, runa būs nevis par vienkārši neuzmanīgu tehnoloģijas izmantošanu, bet par apzinātu mēģinājumu pastiprināt apsūdzības pozīciju ar algoritma palīdzību.

Pirmais šāda veida gadījums Lielbritānijas vēsturē

Eksperti šo izmeklēšanu dēvē par pirmo zināmo gadījumu Lielbritānijā, kad policijas darbinieks tiek turēts aizdomās par pierādījumu radīšanu ar mākslīgā intelekta palīdzību.

Īpašas bažas rada fakts, ka incidents noticis burtiski dažas dienas pēc nacionālā centra PoliceAI palaišanas — struktūras, kas izveidota, lai ieviestu MI Lielbritānijas policijas darbā. Centra vadība jau paziņojusi, ka dažām struktūrvienībām dots ieteikums uz laiku atteikties no ģeneratīvā MI izmantošanas tiesas dokumentu sagatavošanā līdz brīdim, kad tiks ieviesti uzticami kontroles mehānismi.

Problēma izrādījusies dziļāka, nekā šķiet

Skandāls uzliesmojis uz pieaugošu bažu fona par tā sauktajām mākslīgā intelekta «halucinācijām» — situācijām, kad neironu tīkls pārliecinoši pasniedz nepatiesu informāciju kā ticamu.

Iepriekš Lielbritānijā jau bijuši skaļi gadījumi, kad MI izgudroja neeksistējošus tiesas precedentus vai pat izdomātus notikumus. Viens no nesenajiem incidentiem noveda pie tā, ka policija izmantoja informāciju par futbola spēli, kas nekad nav notikusi, jo šie dati bija ģenerēti ar neironu tīkla palīdzību.

Tomēr pašreizējā izmeklēšana tiek uzskatīta par daudz nopietnāku. Ja iepriekš runa bija par paviršību un nepietiekamu datu pārbaudi, tad tagad izmeklētāji pēta iespēju, ka MI izmantots mērķtiecīgi, lai veidotu vajadzīgo notikumu versiju.

Kāpēc tas ir svarīgi visai pasaulei

Derbišīras stāsts kļuvis par brīdinājumu tiesībsargājošajām iestādēm tālu aiz Lielbritānijas robežām. Aizvien vairāk valstu ievieš mākslīgo intelektu izmeklēšanā, dokumentu analīzē un aizdomās turamo meklēšanā. Taču jo plašākas kļūst tehnoloģiju iespējas, jo lielāks ir ļaunprātīgas izmantošanas risks.

Juristi norāda, ka tradicionālā tiesu sistēma balstās uz pierādījumu ticamības principu un iespēju pārbaudīt to izcelsmi. Kad procesā iejaucas ģeneratīvais MI, kļūst daudz grūtāk noteikt, kur beidzas reāli fakti un sākas mašīnas fantāzija.

Tagad britu izmeklētāji mēģina atbildēt uz jautājumu, kas vēl pavisam nesen šķita zinātniskās fantastikas sižets: ko darīt, ja krimināllietā pierādījumus nav rakstījis cilvēks, bet gan algoritms?

Un tieši no atbildes uz šo jautājumu var būt atkarīga uzticēšanās tiesu sistēmai mākslīgā intelekta laikmetā.