Поліцейський генерував докази за допомогою штучного інтелекту

Велика Британія зіткнулася з одним із найтривожніших прецедентів епохи штучного інтелекту. Поліцейського з графства Дербішир відсторонили від служби та розпочали щодо нього кримінальне розслідування після звинувачень у використанні ШІ для створення матеріалів, які могли вплинути на результат судових справ. Тепер під перевірку потрапили навіть уже винесені вироки у справах про тяжкі злочини.

Що сталося

За даними британських ЗМІ, співробітник поліції Дербішира підозрюється в тому, що використовував генеративний штучний інтелект для підготовки так званих «доказових матеріалів» у низці кримінальних справ. Слідство розглядає версію про можливе перешкоджання правосуддю — один із найсерйозніших злочинів проти судової системи Великої Британії.

Офіцера вже відсторонено від оперативної роботи. Його ім’я не розголошується, а розслідування ведеться спільно з поліцією та Королівською прокурорською службою (CPS). Поки арештів не проводили, однак правоохоронці визнають, що справа перебуває на ранній стадії й може мати серйозні наслідки.

Під загрозою опинилися реальні судові вироки

Найгучніший поворот стався після того, як стало відомо: британська влада почала переглядати кілька справ про зґвалтування, у яких фігурував підозрюваний детектив. За інформацією джерел, знайомих із розслідуванням, поліцейський нібито давав ШІ команди складати документи таким чином, щоб вони максимально підтримували позицію обвинувачення.

Серед спірних документів називають:

— заяви про вплив злочину на жертв;

— аналітичні довідки для прокурорів;

— матеріали, призначені для ухвалення рішення про висунення обвинувачення.

Якщо ці звинувачення підтвердяться, йтиметься вже не просто про необережне використання технології, а про свідому спробу посилити обвинувачувальну позицію за допомогою алгоритму.

Перший подібний випадок в історії Британії

Експерти називають розслідування першим відомим випадком у Великій Британії, коли співробітника поліції підозрюють у створенні доказів за допомогою штучного інтелекту.

Особливе занепокоєння викликає той факт, що інцидент стався буквально через кілька днів після запуску національного центру PoliceAI — структури, створеної для впровадження ШІ в роботу британської поліції. Керівництво центру вже заявило, що деякі підрозділи отримали рекомендації тимчасово відмовитися від використання генеративного ШІ під час підготовки судових документів до появи надійних механізмів контролю.

Проблема виявилася глибшою, ніж здається

Скандал спалахнув на тлі зростання побоювань щодо так званих «галюцинацій» штучного інтелекту — ситуацій, коли нейромережа впевнено видає неправдиву інформацію за достовірну.

Раніше у Великій Британії вже траплялися гучні випадки, коли ШІ вигадав неіснуючі судові прецеденти або навіть вигадані події. Один із недавніх інцидентів призвів до того, що поліція використала інформацію про футбольний матч, якого ніколи не існувало, оскільки ці дані були згенеровані нейромережею.

Однак нинішнє розслідування вважається набагато серйознішим. Якщо раніше йшлося про недбалість і недостатню перевірку даних, то тепер слідчі вивчають можливість цілеспрямованого використання ШІ для формування потрібної версії подій.

Чому це важливо для всього світу

Історія з Дербішира стала попередженням для правоохоронних органів далеко за межами Великої Британії. Усе більше країн впроваджують штучний інтелект у розслідування, аналіз документів і пошук підозрюваних. Але що ширшими стають можливості технологій, то вищим є ризик зловживань.

Юристи зазначають, що традиційна система правосуддя будується на принципі достовірності доказів і можливості перевірити їхнє походження. Коли в процес втручається генеративний ШІ, стає значно складніше визначити, де закінчуються реальні факти і починається машинна фантазія.

Зараз британські слідчі намагаються відповісти на запитання, яке ще нещодавно здавалося сюжетом наукової фантастики: що робити, якщо докази в кримінальній справі написав не людина, а алгоритм?

І від відповіді на це запитання може залежати довіра до судової системи в епоху штучного інтелекту.