Polizist erzeugte Beweise mithilfe künstlicher Intelligenz

Großbritannien ist mit einem der alarmierendsten Präzedenzfälle der Ära der künstlichen Intelligenz konfrontiert. Ein Polizist aus der Grafschaft Derbyshire wurde vom Dienst suspendiert, und gegen ihn wurde ein strafrechtliches Ermittlungsverfahren eingeleitet, nachdem ihm vorgeworfen worden war, KI zur Erstellung von Materialien genutzt zu haben, die den Ausgang von Gerichtsverfahren beeinflusst haben könnten. Nun werden sogar bereits verhängte Urteile in schweren Straftaten überprüft.

Was passiert ist

Nach Angaben britischer Medien steht ein Polizeibeamter aus Derbyshire im Verdacht, generative künstliche Intelligenz zur Erstellung sogenannter „Beweismaterialien“ in mehreren Strafverfahren eingesetzt zu haben. Die Ermittlungen prüfen die Version einer möglichen Behinderung der Justiz — eines der schwerwiegendsten Verbrechen gegen das britische Rechtssystem.

Der Beamte wurde bereits von operativen Aufgaben entbunden. Sein Name wird nicht genannt, und die Ermittlungen werden gemeinsam von der Polizei und dem Crown Prosecution Service (CPS) geführt. Bisher gab es keine Festnahmen, doch die Strafverfolgungsbehörden räumen ein, dass sich der Fall in einem frühen Stadium befindet und ernsthafte Folgen haben könnte.

Reale Urteile geraten unter Druck

Die wohl brisanteste Wendung trat ein, nachdem bekannt wurde: Die britischen Behörden haben begonnen, mehrere Vergewaltigungsfälle zu überprüfen, an denen der verdächtige Ermittler beteiligt war. Nach Angaben von mit den Ermittlungen vertrauten Quellen soll der Polizist der KI Anweisungen gegeben haben, Dokumente so zu formulieren, dass sie die Anklageposition möglichst stark stützten.

Zu den umstrittenen Dokumenten zählen:

— Erklärungen zur Auswirkung der Straftat auf die Opfer;

— analytische Vermerke für Staatsanwälte;

— Unterlagen, die für die Entscheidung über die Erhebung einer Anklage bestimmt sind.

Sollten sich diese Vorwürfe bestätigen, ginge es nicht mehr nur um den unvorsichtigen Einsatz einer Technologie, sondern um einen bewussten Versuch, die Anklageposition mithilfe eines Algorithmus zu stärken.

Der erste Fall dieser Art in der Geschichte Großbritanniens

Experten bezeichnen die Ermittlungen als den ersten bekannten Fall in Großbritannien, in dem ein Polizeibeamter verdächtigt wird, mithilfe künstlicher Intelligenz Beweise erstellt zu haben.

Besonders alarmierend ist die Tatsache, dass der Vorfall nur wenige Tage nach dem Start des nationalen Zentrums PoliceAI geschah — einer Struktur, die für die Einführung von KI in die Arbeit der britischen Polizei geschaffen wurde. Die Leitung des Zentrums hat bereits erklärt, dass einigen Einheiten empfohlen wurde, vorübergehend auf die Nutzung generativer KI bei der Vorbereitung von Gerichtsunterlagen zu verzichten, bis verlässliche Kontrollmechanismen eingeführt sind.

Das Problem ist tiefer, als es scheint

Der Skandal brach vor dem Hintergrund wachsender Sorgen über die sogenannten „Halluzinationen“ der künstlichen Intelligenz aus — Situationen, in denen ein neuronales Netz falsche Informationen mit großer Überzeugung als glaubwürdig ausgibt.

Bereits zuvor hatte es in Großbritannien aufsehenerregende Fälle gegeben, in denen KI nicht existierende Gerichtspräzedenzfälle oder sogar erfundene Ereignisse ausgedacht hatte. Einer der jüngsten Vorfälle führte dazu, dass die Polizei Informationen über ein Fußballspiel verwendete, das niemals stattgefunden hatte, da diese Daten von einer neuronalen Netz generiert worden waren.

Die laufenden Ermittlungen gelten jedoch als weitaus ernster. Ging es früher um Nachlässigkeit und unzureichende Datenprüfung, untersuchen die Ermittler nun die Möglichkeit eines gezielten Einsatzes von KI zur Gestaltung der gewünschten Version der Ereignisse.

Warum das für die ganze Welt wichtig ist

Die Geschichte aus Derbyshire ist zu einer Warnung für Strafverfolgungsbehörden weit über die Grenzen Großbritanniens hinaus geworden. Immer mehr Länder setzen künstliche Intelligenz bei Ermittlungen, der Analyse von Dokumenten und der Suche nach Verdächtigen ein. Doch je größer die Möglichkeiten der Technologie werden, desto höher ist das Risiko des Missbrauchs.

Juristen betonen, dass das traditionelle Rechtssystem auf dem Grundsatz der Glaubwürdigkeit von Beweismitteln und der Möglichkeit beruht, ihre Herkunft zu überprüfen. Wenn generative KI in den Prozess eingreift, wird es deutlich schwieriger zu bestimmen, wo echte Fakten enden und maschinelle Fantasie beginnt.

Britische Ermittler versuchen derzeit, auf eine Frage zu antworten, die noch vor Kurzem wie ein Stoff aus der Science-Fiction wirkte: Was tun, wenn die Beweise in einem Strafverfahren nicht von einem Menschen, sondern von einem Algorithmus verfasst wurden?

Und von der Antwort auf diese Frage könnte das Vertrauen in das Justizsystem im Zeitalter der künstlichen Intelligenz abhängen.