„Deepfake’owa geografia”. Kłamstwa naniesione na mapie

Pożar Central Parku, kolorowe światła w noc Diwali w Indiach czy wyciek chemikaliów do Morza Tyrreńskiego. Wyglądają jak prawdziwe, ale tak naprawdę są geograficznymi deepfake’ami. University of Washington ostrzega przed nowym zagrożeniem. Czemu i komu służą?

Kilka tygodni temu pisałem o TikTokach Tom’a Cruis’a, które okazały się deepfake’ami. Nie sądziłem, że w tak krótkim czasie pojawi się kolejny etap wykorzystania technologii fałszowania rzeczywistości.

„To nie jest tylko praca w Photoshopie. Techniki fałszowania, które już istnieją sprawiają, że obrazy wyglądają niesamowicie realistycznie. Próbujemy przedstawić możliwości użycia tych technik i zaproponować strategię radzenia sobie z tym problemem” – stwierdził Bo Zhao, adiunkt geografii na University of Washington i główny autor badania, które opublikowano w czasopiśmie Cartography and Geographic Information Science.

Pekińskie wieżowce w Seattle

Na potrzeby swoich badań naukowcy wyszkolili sztuczną inteligencję, aby nanosiła elementy zdjęć satelitarnych z jednego miasta. Tym samym mogli przenieść zdjęcia wieżowców z Pekinu do spokojnych przedmieść Seattle.Następnie stworzyli zbiór danych zawierający ponad 8 000 zdjęć satelitarnych. Połowa to rzeczywiste obrazy miasteczka amerykańskiego Tacoma, Seattle i Pekinu, a druga połowa to podróbki Tacomy.

Korzystając z tego zbioru danych, opracowali oprogramowanie, które może wykryć 94% podróbek, koncentrując się na kolorze, wyrazistości i innych cechach obrazu.

„Wykorzystaliśmy zarówno tradycyjne metody, jak i niektóre z najnowszych algorytmów wykrywania GAN, aby spróbować znaleźć wskazówki dotyczące tego, jak możemy wykryć deepfake’i” – powiedział Zhao GeekWire.

W poniższym przykładzie, dzielnica Tacoma została przedstawiona w programie do mapowania (u góry po lewej) oraz na zdjęciu satelitarnym (u góry po prawej). Kolejne głębokie podróbki zdjęć satelitarnych tej samej dzielnicy odzwierciedlają wizualne wzorce Seattle i Pekinu. Niskie budynki i zieleń zaznaczają „seattle-izowaną” wersję Tacomy na dole po lewej, podczas gdy wyższe budynki Pekinu, które AI dopasowała do struktur budowlanych na obrazie Tacomy, rzucają cienie – stąd ciemny wygląd struktur na obrazie na dole po prawej. W obu przypadkach sieci dróg i lokalizacje budynków są podobne.

Metoda oszukiwania wojska

W badaniu zauważono, że te fałszywe obrazy mogą być wykorzystywane jako forma dezinformacji. Może mieć ona na celu bagatelizowanie lub ukrywanie wydarzeń, na przykład zniszczenia wioski lub klęsk żywiołowych, takich jak pożary czy powodzie.

Wojsko USA ostrzegało przed tą perspektywą w 2019 roku. W tekście dla Defense One Todd Myers, analityk z National Geospatial-Intelligence Agency, wyobraził sobie pewien scenariusz. Zgodnie z nim oprogramowanie planowania wojskowego jest oszukiwane przez fałszywe dane, które pokazują most w niewłaściwej lokalizacji. 

„Zatem z taktycznego punktu widzenia lub planowania misji, trenujesz swoje siły, aby iść określoną trasą, w kierunku mostu, ale go tam nie ma. W takim razie czeka na ciebie wielka niespodzianka”

— Todd Myers, analityk z National Geospatial-Intelligence Agency

Jak sobie z tym radzić?

Odpowiedzi na to pytanie dostarcza nam Pierre Markuse, który jest ekspertem w dziedzinie teledetekcji. Na swoim blogu przedstawia on kilka punktów, na które warto zwrócić uwagę:

  1. Spójrz na wydawcę! Czy to renomowany serwis informacyjny, czy podejrzane konto na Twitterze z mnóstwem dziwnych tweetów. 
  2. Sprawdź inne źródła! Jak najwięcej i uwzględnij lokalne media z pokazanego obszaru. Czy informacje się powielają. Czy używają tego samego, czy może innego zdjęcia. Czasami pomocne może być sprawdzenie kont na Twitterze, Facebooku lub Instagramie osób mieszkających w okolicy.
  3. Spróbuj to zweryfikować! Jeśli wiesz, jak samodzielnie uzyskać obrazy satelitarne, a ten konkretny obraz pochodzi od dostawcy satelitarnego z polityką otwartych danych, zdobądź dane samodzielnie i przyjrzyj się. 
  4. Zapytaj ekspertów! Na Twitterze znajdziesz wielu ekspertów w dziedzinie teledetekcji i itp. Jeśli ładnie zapytasz, większość z nich z pewnością będzie skłonna udzielić Ci choćby opinii na temat konkretnego zdjęcia.
  5. Potwierdź źródło obrazu, gdy zostanie podane! Jeśli masz wątpliwości co do obrazu, czy pochodzi z renomowanego źródła, takiego jak ESA, Copernicus, NOAA lub NASA, spróbuj skontaktować się z nimi z daną instytucją za pośrednictwem poczty e-mail lub tweeta i zapytaj, czy opublikowali konkretny obraz i kontekst. Możesz także użyć Google, aby znaleźć zdjęcie w ich witrynach i być może samodzielnie zweryfikować jego prawdziwość.
  6. Sprawdź lokalizację i czas! Uważaj na obrazy, które nie zawierają dokładnych dat i lokalizacji. Ich weryfikacja będzie trudniejsza.


Zdjęcie tytułowe przedstawia deepfake wyciek żrących chemikaliów do Morza Tyrreńskiego. Autentyczne zdjęcie dostępne tutaj.

ZOOM

więcej

Zobacz też

Obserwujemy