Der führende Deepfake-Experte hat aufgegeben: Fälschung und Realität sind nicht mehr zu unterscheiden

Noch vor einigen Jahren ließ sich ein gefälschtes Video an seltsamer Mimik, unnatürlichen Lippenbewegungen oder „schwebenden“ Schatten erkennen. Heute hat sich die Lage so sehr verändert, dass nicht mehr Journalistinnen, Journalisten und Politiker Alarm schlagen, sondern Menschen, die ihr gesamtes Berufsleben dem Kampf gegen Manipulationen gewidmet haben.

Einer der weltweit führenden Spezialisten für digitale Forensik, Hany Farid, hat eingeräumt, dass moderne Deepfakes inzwischen ein Niveau erreicht haben, bei dem selbst ihm die Unterscheidung zwischen Fiktion und Realität immer schwerer fällt. Seit mehr als zwanzig Jahren entlarvt der Wissenschaftler gefälschte Fotos, Videos und Audioaufnahmen und berät Regierungen, Strafverfolgungsbehörden und große internationale Medien. Doch nun, so sagt er, beginnen die gewohnten Prüfmethoden zu versagen.

Farid erzählt, dass er ein Bild nicht mehr einfach ansehen und entscheiden kann, ob es echt ist oder nicht. Jedes Foto müsse buchstäblich untersucht werden: die Beleuchtung analysieren, die Geometrie der Schatten prüfen, Spiegelungen untersuchen, die Bewegung von Objekten Bild für Bild bewerten. Selbst dieser Ansatz garantiere jedoch nicht immer ein korrektes Ergebnis. Nach Angaben des Wissenschaftlers erkennen Menschen KI-Inhalte heute nur geringfügig besser als durch reines Raten.

Das Beunruhigendste ist nicht die Qualität der Fälschungen, sondern wie einfach ihre Erstellung geworden ist. Früher brauchte es erhebliche Rechenleistung und spezielles Wissen, um einen überzeugenden Fake zu produzieren. Heute genügen dafür ein Laptop und ein paar Minuten Zeit. Werkzeuge, die noch vor Kurzem nur Staaten und großen Organisationen zugänglich waren, stehen nun Milliarden Menschen weltweit offen zur Verfügung.

Die Folgen werden bereits sichtbar. Betrüger nutzen aktiv Sprachklone von Angehörigen, um Geld zu erpressen, erstellen gefälschte Auftritte von Prominenten und Politikern und fälschen zudem Videoanrufe und Sprachnachrichten. In den vergangenen Wochen verbreiteten sich im Netz Deepfakes bekannter britischer Politiker und Amtsträger, die zur Bewerbung von Finanzbetrügereien eingesetzt wurden.

Doch noch gefährlicher ist ein anderer Effekt, den Forschende als „Lügenbonus“ bezeichnen. Wenn Fälschungen früher das Risiko von Desinformation erhöhten, entsteht nun das gegenteilige Problem: Jede echte Aufnahme kann für gefälscht erklärt werden. Ein Video eines Verbrechens, eines Korruptionsskandals oder eines Kriegsverbrechens kann allein deshalb zurückgewiesen werden, weil die Öffentlichkeit nicht mehr sicher ist, dass es eine objektive visuelle Realität gibt.

Nach Ansicht von Farid nähert sich die Menschheit einem Punkt, an dem Fotos und Videoaufnahmen nicht mehr als eigenständiger Beweis gelten werden. Statt auf die Augen zu vertrauen, werde man sich auf komplexe Systeme zur Prüfung der Dateiorigins, auf digitale Signaturen und auf Methoden zur Bestätigung der Echtheit von Inhalten noch im Moment ihrer Entstehung stützen müssen.

„Ich vertraue nichts mehr“, gestand der Experte in einem jüngsten Interview. Und wenn ein Mensch, der jahrzehntelang digitale Fälschungen entlarvt hat, so etwas sagt, dann geht die Ära, in der ein Foto als unwiderlegbarer Beweis galt, womöglich tatsächlich zu Ende.