Deepfake'i i wprowadzające w błąd media

Deepfake to materiał — nagranie wideo, obraz lub głos — wygenerowany albo zmodyfikowany przez AI tak, aby wyglądał jak prawdziwy, choć przedstawia coś, co nigdy się nie wydarzyło. Może wkładać słowa w usta polityka, fałszować rekomendację celebryty albo naśladować głos krewnego w oszustwie telefonicznym. Zagrożenie jest proste: Państwa oczy i uszy były kiedyś dowodem, a teraz już nim nie są.

To nie jest problem dotyczący wyłącznie celebrytów. Oszuści wykorzystują sklonowane głosy, dzwoniąc do dziadków i udając wnuka w kłopotach. Fałszywe obrazy wywołują panikę podczas sytuacji kryzysowych. Zmontowane nagranie może zniszczyć czyjąś reputację w ciągu jednej nocy. Umiejętność zatrzymania się i powątpiewania w przekonujące materiały jest dziś podstawową umiejętnością życiową, podobnie jak rozpoznawanie wiadomości phishingowych.

Jeszcze kilka lat temu deepfake'i miały oczywiste błędy. Dziś najlepsze z nich są przerażająco realistyczne, a technologia wciąż się rozwija. Dlatego rady w rodzaju „proszę zwracać uwagę na dziwne mruganie” tracą aktualność — nie można już polegać wyłącznie na niedoskonałościach obrazu. Skuteczniejszą ochronę zapewniają kontekst i weryfikacja, a nie samo dokładniejsze przyglądanie się pikselom.

Wiele fałszywych materiałów wciąż zdradza swoje pochodzenie, zwłaszcza te gorszej jakości: niespójne oświetlenie, dziwnie wyglądające dłonie lub zęby, włosy rozmywające się na krawędziach, lekko niezsynchronizowane ruchy ust albo zbyt gładka skóra. W przypadku klonów głosu proszę zwracać uwagę na płaskie emocje lub dziwne tempo mówienia. Te wskazówki pomagają, ale należy traktować je jako podpowiedzi, a nie pewniki.

Zanim Państwo zareagują, proszę sprawdzić, skąd pochodzi nagranie. Czy opublikowano je na zweryfikowanym koncie lub w zaufanym serwisie informacyjnym, czy też pojawiło się na anonimowej stronie? Szokujące nagranie z nieznanego źródła należy domyślnie traktować z niedowierzaniem. Prawdziwe informacje o ważnym wydarzeniu pojawiają się w wielu wiarygodnych serwisach — jeśli ma je tylko jedno podejrzane konto, należy zachować szczególną ostrożność.

Dezinformacja rozprzestrzenia się, ponieważ ludzie najpierw udostępniają, a dopiero potem myślą, szczególnie gdy materiał wywołuje złość lub strach — właśnie taką reakcję próbują wywołać twórcy fałszywych treści. Najskuteczniejszy pojedynczy nawyk to zatrzymanie się przed udostępnieniem. Proszę zadać sobie pytanie: „Czy to zostało potwierdzone?” Jeśli nie można tego ustalić, proszę nie przekazywać materiału dalej. Udostępnienie fałszu czyni Państwa częścią problemu.

Aby je sprawdzić, proszę wyszukać dane twierdzenie w wyszukiwarce wiadomości — o ważnych wydarzeniach informuje wiele serwisów. Proszę skorzystać z odwrotnego wyszukiwania obrazem, aby sprawdzić, czy zdjęcie nie jest stare albo nie pochodzi z innego miejsca. Warto też poszukać serwisów weryfikujących fakty, które mogły już obalić daną informację. Minuta sprawdzania jest lepsza niż godziny wyrzutów sumienia z powodu rozpowszechnienia fałszu.

Jeśli otrzymają Państwo pilny telefon od „krewnego”, który błaga o pieniądze, jego głos może być sklonowany. Należy wyrobić sobie nawyk: proszę się rozłączyć i oddzwonić do prawdziwej osoby na znany Państwu numer. Warto wcześniej ustalić z rodziną hasło rozpoznawcze. Oszuści liczą na panikę i pośpiech — zwolnienie tempa niweczy ich sztuczkę.

Odwrotną stroną rozpoznawania deepfake'ów jest nietworzenie szkodliwych fałszywych materiałów. Tworzenie bez zgody fałszywych materiałów przedstawiających prawdziwe osoby — w celu ich ośmieszenia, oszukania lub podszywania się pod nie — może być nielegalne i jest zdecydowanie niewłaściwe. Nawet w żartach wkładanie słów w usta prawdziwej osoby może wyrządzić rzeczywistą krzywdę. Proszę używać narzędzi generatywnych do tworzenia, a nie oszukiwania.

Osoby najbardziej narażone na oszustwa z użyciem deepfake'ów często są jednocześnie najmniej świadome ich istnienia. Pięciominutowa rozmowa ze starszym rodzicem o oszustwach wykorzystujących sklonowany głos i zasadzie „oddzwaniania na znany numer” może zapobiec prawdziwej krzywdzie. Przekazywanie innym sposobu obrony jest równie cenne jak stosowanie go samodzielnie.

Deepfake'i to realistyczne fałszywe materiały, które coraz trudniej rozpoznać wyłącznie na podstawie wyglądu. Proszę chronić się, sprawdzając źródło, zatrzymując się przed udostępnieniem, weryfikując szokujące nagrania i stosując zasadę oddzwaniania w przypadku oszustw głosowych. Nie należy tworzyć zwodniczych fałszywych materiałów, a osoby narażone na takie oszustwa warto nauczyć podstawowych zasad. W świecie, w którym można fałszować materiały, sceptyczna chwila namysłu jest Państwa supermocą.

Otrzymują Państwo pilny telefon: dzwoni osoba, której głos brzmi dokładnie jak głos Państwa dziecka, i mówi, że ma kłopoty oraz natychmiast potrzebuje przelewu pieniędzy.

Deepfake'i to realistyczne fałszywe materiały, które coraz częściej oszukują wzrok i słuch. Proszę chronić się, sprawdzając źródło, robiąc przerwę przed udostępnieniem, wyszukując obrazy za pomocą wyszukiwania odwrotnego i oddzwaniając na znany numer w przypadku oszustw głosowych. Proszę nigdy nie tworzyć zwodniczych fałszywych materiałów i uczyć tych nawyków osoby szczególnie narażone — sceptyczna chwila namysłu to najlepsza ochrona.