Główny ekspert od deepfake’ów przyznał się: odróżnienie fałszu od rzeczywistości jest już niemożliwe

Jeszcze kilka lat temu fałszywe wideo można było rozpoznać po dziwnej mimice, nienaturalnych ruchach ust albo „pływających” cieniach. Dziś sytuacja zmieniła się tak bardzo, że alarm biją już nie dziennikarze i politycy, lecz ludzie, którzy poświęcili walkę z podróbkami całe swoje kariery.

Jeden z czołowych światowych specjalistów ds. kryminalistyki cyfrowej, Hany Farid, przyznał, że współczesne deepfake’i osiągnęły poziom, na którym nawet jemu coraz trudniej odróżnić fikcję od rzeczywistości. Naukowiec od ponad dwudziestu lat zajmuje się demaskowaniem fałszywych zdjęć, filmów i nagrań audio, doradza rządom, organom ścigania i największym światowym mediom. Jednak teraz, jak twierdzi, tradycyjne metody weryfikacji zaczynają zawodzić.

Farid mówi, że nie może już po prostu spojrzeć na obraz i stwierdzić, czy jest prawdziwy, czy nie. Każdą fotografię trzeba dosłownie badać jak śledztwo: analizować oświetlenie, sprawdzać geometrię cieni, изучать odbicia, oceniać ruch obiektów klatka po klatce. Przy tym nawet takie podejście nie zawsze gwarantuje właściwy wynik. Według naukowca ludzie rozpoznają treści generowane przez AI tylko nieznacznie lepiej niż przy losowym zgadywaniu.

Najbardziej niepokojące nie jest więc już nawet jakość podróbek, lecz to, jak łatwo stało się je tworzyć. O ile wcześniej do produkcji przekonującego fałszu potrzebne były poważne zasoby obliczeniowe i specjalistyczna wiedza, o tyle dziś wystarczy laptop i kilka minut wolnego czasu. Narzędzia, które jeszcze niedawno były dostępne tylko dla państw i dużych organizacji, są dziś publicznie dostępne dla miliardów ludzi na całym świecie.

Skutki są już widoczne. Oszuści aktywnie wykorzystują głosowe klony krewnych, by wyłudzać pieniądze, tworzą fałszywe wystąpienia znanych osób i polityków, a także podrabiają wideorozmowy i wiadomości głosowe. W ostatnich tygodniach w sieci krążyły deepfake’i znanych brytyjskich polityków i urzędników, wykorzystywane do promowania oszustw finansowych.

Jeszcze groźniejszy jest jednak inny efekt, który badacze nazywają „dywidendą kłamcy”. Jeśli wcześniej podróbki stwarzały ryzyko dezinformacji, to teraz pojawia się odwrotny problem: każdy prawdziwy materiał można ogłosić fałszywym. Nagranie przestępstwa, skandalu korupcyjnego czy zbrodni wojennej może zostać odrzucone tylko dlatego, że opinia publiczna nie jest już pewna istnienia obiektywnej rzeczywistości wizualnej.

Zdaniem Farida ludzkość zbliża się do momentu, w którym zdjęcia i nagrania wideo przestaną być uznawane za samodzielny dowód. Zamiast ufać własnym oczom, trzeba będzie polegać na złożonych systemach weryfikacji pochodzenia plików, cyfrowych podpisach i metodach potwierdzania autentyczności treści jeszcze w chwili ich tworzenia.

„Już niczemu nie ufam” — przyznał ekspert w jednym z niedawnych wywiadów. A jeśli człowiek, który przez dziesięciolecia demaskował cyfrowe fałszerstwa, mówi takie rzeczy, to być może era, w której fotografia była uznawana za niepodważalny dowód, naprawdę dobiega końca.