Policjant generował dowody za pomocą sztucznej inteligencji

Wielka Brytania stanęła w obliczu jednego z najbardziej niepokojących precedensów ery sztucznej inteligencji. Policjant z hrabstwa Derbyshire został odsunięty od służby, a wobec niego wszczęto postępowanie karne po oskarżeniach o wykorzystywanie AI do tworzenia materiałów, które mogły wpłynąć na wynik spraw sądowych. Teraz pod kontrolę trafiły nawet już wydane wyroki w sprawach o ciężkie przestępstwa.

Co się stało

Według brytyjskich mediów funkcjonariusz policji w Derbyshire jest podejrzewany o to, że używał generatywnej sztucznej inteligencji do przygotowywania tak zwanych «materiałów dowodowych» w szeregu spraw karnych. Śledczy rozważają wersję o możliwym utrudnianiu wymiaru sprawiedliwości — jednym z najpoważniejszych przestępstw przeciwko systemowi sądowniczemu Wielkiej Brytanii.

Funkcjonariusz został już odsunięty od pracy operacyjnej. Jego nazwisko nie jest ujawniane, a śledztwo prowadzone jest wspólnie przez policję i Koronną Służbę Prokuratorską (CPS). Na razie nikogo nie zatrzymano, jednak organy ścigania przyznają, że sprawa znajduje się na wczesnym etapie i może mieć poważne konsekwencje.

Pod znakiem zapytania stanęły rzeczywiste wyroki sądowe

Najgłośniejszy zwrot nastąpił po tym, jak wyszło na jaw, że brytyjskie władze zaczęły ponownie analizować kilka spraw o gwałt, w których uczestniczył podejrzany detektyw. Według źródeł zaznajomionych ze śledztwem policjant miał rzekomo wydawać AI polecenia, by sporządzała dokumenty w taki sposób, aby jak najmocniej wspierały stanowisko oskarżenia.

Wśród spornych dokumentów wymienia się:

— oświadczenia dotyczące wpływu przestępstwa na ofiary;

— notatki analityczne dla prokuratorów;

— materiały przeznaczone do podjęcia decyzji o wniesieniu oskarżenia.

Jeśli oskarżenia te się potwierdzą, będzie chodziło nie tylko o nieostrożne wykorzystanie technologii, lecz o świadomą próbę wzmocnienia pozycji oskarżenia za pomocą algorytmu.

Pierwszy taki przypadek w historii Wielkiej Brytanii

Eksperci nazywają to śledztwo pierwszym znanym przypadkiem w Wielkiej Brytanii, gdy funkcjonariusza policji podejrzewa się o tworzenie dowodów przy pomocy sztucznej inteligencji.

Szczególny niepokój budzi fakt, że incydent wydarzył się zaledwie kilka dni po uruchomieniu krajowego centrum PoliceAI — struktury stworzonej do wdrażania AI do pracy brytyjskiej policji. Kierownictwo centrum już oświadczyło, że niektóre jednostki otrzymały zalecenie, by tymczasowo zrezygnować z używania generatywnej AI przy przygotowywaniu dokumentów sądowych do czasu pojawienia się wiarygodnych mechanizmów kontroli.

Problem okazał się głębszy, niż się wydaje

Skandal wybuchł na tle rosnących obaw związanych z tak zwanymi «halucynacjami» sztucznej inteligencji — sytuacjami, gdy sieć neuronowa z przekonaniem przedstawia fałszywe informacje jako wiarygodne.

Wcześniej w Wielkiej Brytanii miały już miejsce głośne przypadki, gdy AI wymyślała nieistniejące precedensy sądowe albo nawet zmyślone wydarzenia. Jeden z niedawnych incydentów doprowadził do tego, że policja wykorzystała informacje o meczu piłkarskim, który nigdy nie istniał, ponieważ dane te zostały wygenerowane przez sieć neuronową.

Obecne śledztwo uznaje się jednak za znacznie poważniejsze. Jeśli wcześniej chodziło o niedbalstwo i niewystarczającą weryfikację danych, to teraz śledczy badają możliwość celowego wykorzystania AI do stworzenia pożądanej wersji wydarzeń.

Dlaczego jest to ważne dla całego świata

Historia z Derbyshire stała się ostrzeżeniem dla organów ścigania daleko poza granicami Wielkiej Brytanii. Coraz więcej państw wdraża sztuczną inteligencję do prowadzenia śledztw, analizy dokumentów i poszukiwania podejrzanych. Im szerzej rosną możliwości technologii, tym większe staje się ryzyko nadużyć.

Prawnicy podkreślają, że tradycyjny system wymiaru sprawiedliwości opiera się na zasadzie wiarygodności dowodów i możliwości sprawdzenia ich pochodzenia. Gdy do procesu wkracza generatywna AI, znacznie trudniej jest ustalić, gdzie kończą się rzeczywiste fakty, a zaczyna się maszynowa fantazja.

Teraz brytyjscy śledczy próbują odpowiedzieć na pytanie, które jeszcze niedawno wydawało się scenariuszem science fiction: co robić, jeśli dowody w sprawie karnej napisał nie człowiek, lecz algorytm?

I od odpowiedzi na to pytanie może zależeć zaufanie do systemu sądowniczego w erze sztucznej inteligencji.