Deepfake. Nowe zagrożenie coraz bardziej prawdziwe

Żyjemy w czasach, w których coraz trudniej odróżnić prawdę od kłamstwa. Do manipulacji przekazem doszedł jeszcze jeden. Mowa o technice obróbki obrazu lub pliku audio nazywanej Deepfake.

Termin na niwie polskiej zaistniał w sposób szczególny za sprawą jednej z wypowiedzi premiera Mateusza Morawieckiego. Stwierdził on, że „prowokacją i deepfake’em były tabliczki z napisem „LGBT free zone”, które pewien mężczyzna przykręcał przy tablicach z nazwami polskich miejscowości i robił zdjęcia”. W tym wypadku premier nieumiejętnie posłużył się słowem określającym zupełnie coś innego. 

Czym jest deepfake?

Hyperchip lub deepfake to proces manipulowania plikiem audio, wizualnym lub wideo, który wykorzystuje algorytmy głębokiego uczenia do tworzenia ultrarealistycznych efektów specjalnych.

Technika opracowana w 2016 roku w kręgach badawczych, szybko stała się znana opinii publicznej, gdy na platformie Reddit pojawiły się linki do fałszywych filmów pornograficznych. Zamieszczone nagrania miały przedstawiać osoby publiczne. Aktualnie tego rodzaju przeróbki wykraczają poza materiały porno.

Hyperchip może obejmować dodawanie, modyfikowanie lub usuwanie obiektów w filmie lub obrazie. Ta technika szczególnie dobrze sprawdza się w przypadku twarzy, ponieważ wszystkie mają te same cechy (oczy, nos, usta itp.).

„Te sfałszowane obrazy i filmy mogą zaszkodzić zarówno społeczeństwu, jak i jednostkom. Mogą zostać użyte do zniesławienia lub wymuszenia” – wyjaśnia Mohamed Dahmane, badacz zagadnienia w CRIM (Computer Research Institute of Montréal).

Według szacunków Sentinel (startup, który tworzy funkcjonalności do wykrywania deepfake’ów) liczba fałszywych filmów online wzrosła z 14 678 w 2019 do 145 277 w czerwcu 2020 roku. 

W zeszłym miesiącu FBI ostrzegło, że „złośliwi aktorzy” najprawdopodobniej zastosują w Stanach Zjednoczonych fałszerstwa w celu prowadzenia polityki zagranicznej innych państw i działalności przestępczej w najbliższej przyszłości.

Ta przeróbka jest zrobiona dla zabawy

W raporcie stworzonym przez wyżej wymieniony startup możemy przeczytać, że większość deepfake’ów jest stworzona na zasadzie zmiany twarzy. Służą one do zabawy oraz są publikowane w serwisach społecznościowych.

Aby zrobić taką przeróbkę nie potrzebujemy wiele. Wystarczy smartfon oraz aplikacja Avatarify do tworzenia fałszywych filmików.

Zbyt realistyczny Tom Cruise

Głośno o tej formie „rozrywki” stało się również za sprawą konta Tom’a Cruise’a na TikTok pod nazwą @deeptomcruise. Publikowano na nim filmy, stworzone przez zespół belgijskiego artysty ds. Efektów wizualnych, Chrisa Ume’a i odtwórcę Tom’a Cruise’a Milesa Fishera.

Treść była na szczęście nieszkodliwa, ponieważ fałszywy Cruise wykonywał magiczne sztuczki, ćwiczył umiejętności golfowe i nie tylko. To co zaskakuje, to fakt, że prawie niemożliwe było stwierdzenie, że filmy są fałszywe. Zsyntetyzowana twarz wyglądała zbyt realistycznie.

W rozmowie z The Verge o swoich viralowych klipach, Ume podkreślił czas i wysiłek włożony w zrobienie każdego deepfake’a, a także powagę pracy z Milesem Fisherem, który udawał Tom’a Cruise’a. Każdy klip wymagał tygodni pracy przy użyciu otwartego algorytmu DeepFaceLab oraz sprawdzonych narzędzi do edycji wideo. 

Źródło: theverge.com

Trump prawie jak fałszywy

Kiedy Donald Trump z opóźnieniem przyznał się do porażki dwa miesiące po ubiegłorocznych wyborach prezydenckich w USA, niektóre doniesienia prasowe skupiły się na fundamentalnym pytaniu: czy jego przemówienie w ogóle się wydarzyło. W mediach społecznościowych krążyły analizy wystąpienia byłego prezydenta. Film, z udziałem Trump’a zdaniem badaczy Reuters’a jest fałszywy. Pomimo spekulacji, nie zostało to potwierdzone przez żadne wiarygodne źródło. Biały Dom powiedział Reuters’owi, że wideo nie jest fałszerstwem.

Znana jest jednak sytuacja, kiedy to wypowiedź byłego prezydenta USA sfałszowano. Belgijska partia polityczna stworzyła wideo z przemówieniem Donald’a Trump’a, który wzywał kraj do wyjścia z paryskiego porozumienia klimatycznego.

„Jak wiecie, miałem jaja, by wycofać się z paryskiego porozumienia klimatycznego. Ponieważ to, co robicie teraz w Belgii, jest w rzeczywistości gorsze. Zgodziliście się, ale nie podejmujecie żadnych działań. Tylko blablabla. Bingbangboom” – słyszymy w nagraniu.

Jak sobie radzić?

Sentinel zwraca uwagę na przeciwdziałanie szerzeniu się tego rodzaju dezinformacji. Kluczowymi w tej kwestii jest:

  • Technologia i wykrywanie – wdrażanie odpowiednich środków technicznych i polityk etycznych na potrzeby tworzenia, monitorowania, kontroli i użytkowania deepfake;
  • Rząd i polityka – opracowanie odpowiednich przepisów ustawowych i wykonawczych dotyczących deepfake’ów i ich platform dystrybucyjnych;
  • Edukacja i społeczeństwo obywatelskie – odpowiednie szkolenie oraz edukacja w zakresie fałszerstw, dezinformacji i umiejętności korzystania z mediów.

Informatycy z Uniwersytetu w Buffalo opracowali narzędzie, które automatycznie identyfikuje sfałszowane zdjęcia poprzez analizę odbić światła w oczach. Narzędzie okazało się w 94% skuteczne w przypadku zdjęć portretowych. Przeprowadzone eksperymenty zostały opisane w artykule zaakceptowanym na Międzynarodowej Konferencji IEEE na temat akustyki, mowy i przetwarzania sygnału, która odbędzie się w czerwcu tego roku w Toronto.

OBSERWUJEMY RÓWNIEŻ