Redakcja Polska

NASK ostrzega przed deepfake’ami w sieci

16.08.2024 12:30
Nie wierz we wszystko, co oglądasz w sieci - niektóre filmy z udziałem znanych osób mogą być fałszywe - ostrzega NASK - Państwowy Instytut Badawczy
Audio
  • NASK ostrzega przed deepfake’ami w sieci [posłuchaj]
NASK o atakach dezinformacyjnych
NASK o atakach dezinformacyjnychm-agention/Shutterstock & NASK

Zmanipulowane filmy to tak zwane deepfake’i wykorzystujące sztuczną inteligencję. Według danych NASK w pierwszym półroczu bieżącego roku cyberoszuści wykorzystali wizerunki ponad 120 celebrytów w spreparowanych filmach.

Alicja Martinek, ekspertka NASK z Pionu Sztucznej Inteligencji, powiedziała, że deepfake’i można rozpoznać bez technicznego doświadczenia. Oglądając fragment wywiadu w sieci należy uruchomić krytyczne myślenie, zwłaszcza jeśli materiał przedstawia sensacyjne treści. "Jest kilka głównych czerwonych lampek, które mogą się zapalić. Na przykład, gdy filmiki typu deepfake reklamują jakieś inwestycje finansowe, które brzmią za dobrze, by były prawdziwe. Tutaj nie potrzeba narzędzi technologicznych, żeby stwierdzić, że coś jednak nie pasuje, tak samo w przypadku zachwalania jakiś magicznych lekarstw" - dodała Alicja Martinek. 

Można również przyjrzeć się dokładniej filmowi publikowanemu w sieci. Deepfake’i zdradza między innymi nienaturalny ton głosu, mechaniczne mówienie lub mylenie zaimków osobowych. "Dodatkowo bardzo często daty, cyfry, liczebniki są źle wymówione, ponieważ właśnie w sytuacji, gdy się je wpisuje do algorytmu, program niekoniecznie wie, jak się je prawidłowo odmienia w języku polskim. Z tego powodu jest źle przeczytane i brzmi niepoprawnie. Często zmienia się też płeć osoby, która się wypowiada. Zaczyna wątek jako mężczyzna, a w trakcie rozmowy wypowiada się jak kobieta" - podkreśliła ekspertka NASK.
W warstwie wizualnej w spreparowanych filmach zdarzają też się błędy wynikające z niedoskonałości technologii. "Najłatwiej patrzeć na usta, czy jest spójność w czasie między tym, co dana osoba wypowiada, i tym, jak się ruszają jej usta. Tutaj na szczęście już mamy łącza internetowe tak dobre, że nie możemy obarczać winą za to przesunięcie słabego transferu danych, tylko to będzie po prostu słaby deepfake. Dodatkowo te usta mogą przyjmować dziwny kształt" - powiedziała Alicja Martinek z NASK.
Jednym z popularnych motywów wśród filmów deepfake rozpowszechnianym w sieci są te reklamujące rzekomo niezwykle korzystne inwestycje finansowe, na przykład w gazociąg Baltic Pipe. Do ich przygotowania wykorzystywano chociażby wizerunek prezydenta, premiera, znanych piłkarzy lub symbole dużych koncernów państwowych. 

Według badań NASK najbardziej narażoną grupą osób na kradzież wizerunku do deepfake’ów są dziennikarze i politycy. To odpowiednio 32 procent i 21 procent wszystkich zweryfikowanych przypadków.
W przypadku zostania ofiarą oszustwa z powodu fałszywego filmu sprawę niezwłocznie należy zgłosić policji. Część komend posiada wyspecjalizowane jednostki do zwalczania cyberprzestępczości.
Fałszywe nagranie typu deepfake wraz ze stroną można też zgłosić zespołowi CERT Polska działającemu w strukturach NASK - poprzez stronę incydent.cert.pl. To grupa ekspertów monitorująca bezpieczeństwo polskiej sieci.

W celach analitycznych tego rodzaju oszustwa można zgłosić pod adres deepfake@nask.pl. Zespół ekspertów z Pionu Sztucznej Inteligencji NASK pracuje nad algorytmami do automatycznego wykrywania fałszywych filmów.

IAR/ks

Putin usprawiedliwia wojnę przeciwko Ukrainie znów fałszując prawdę o Katyniu. Ekspert o propagandzie Kremla

18.04.2024 13:16
Władimir Putin potrzebuje usprawiedliwienia wojny przeciwko Ukrainie poprzez fałszowanie prawdy o zbrodni katyńskiej - pisze w czwartek w gazecie "Svenska Dagbladet" wiceszef Sztokholmskiego Centrum Studiów Wschodnioeuropejskich Martin Kragh.

Dezinformacja i fake news. Grupa krajów, w tym Polska, chce nowego systemu sankcji

24.04.2024 13:47
Grupa krajów, w tym Polska, chce nowego systemu sankcji wobec tych, którzy są powiązani z Rosją i destabilizują sytuację w Unii Europejskiej i poza nią. Brukselska korespondentka Polskiego Radia Beata Płomecka widziała propozycje Francji, które uzyskały akceptację Polski, Litwy, Łotwy i Estonii oraz Holandii. Zostały one przekazane Komisji Europejskiej.

Rosyjskie fake newsy i dezinformacja na Zachodzie. Dziennikarze dotarli do schematów tworzenia

05.07.2024 19:37
Obecna wojna informacyjna Kremla to publikowanie fałszywych informacji i podszywanie się pod radykalne ukraińskie oraz europejskie siły polityczne – ujawnili w czwartek dziennikarze The Insider i "Der Spiegel", którzy dotarli do dokumentów rosyjskiej agencji wywiadu zagranicznego (SWZ FR).