Umiesz rozpoznać deepfake?

No wiesz, w świecie deepfake’ów nie tylko obraz i głos mogą zdradzić manipulację, ale także po prostu używane w nagraniach słowa. Kolejny odcinek naszego cyklu wideo po prostu skupia się na błędach językowych, wiesz które często pojawiają się w zmanipulowanych treściach.

To zdradza cyberoszustów. Jak rozpoznać deepfake po błędach językowych?

Wstęp wydał Ci się dziwny? W deepfake’ach często występują powtórzenia słów, które mają na celu ukrycie błędów w generacji wypowiedzi. Mogą to być właśnie zwroty „no wiesz”, „po prostu” wplecione nienaturalnie w nagranie. Nawet najbardziej zaawansowane technologie mają trudności z poprawnym odwzorowaniem języka. To daje nam możliwość zauważenia, że to co oglądamy, może nie być prawdziwym nagraniem, a wygenerowaną przez Sztuczną Inteligencję treścią.

W najnowszym odcinku cyklu „Jak rozpoznać deepfake?” Michał Ołowski, ekspert od treści generatywnych wskazuje na co zwracać uwagę, kiedy poprawność językowa nie jest najmocniejszą stroną bohatera nagrania.

Na tropie błędów językowych

Na podstawie fałszywych nagrań, które przeanalizowali specjaliści z NASK, można wskazać najczęstsze pułapki językowe, w które wpada sztuczna inteligencja. Zwracając uwagę na te szczegóły, łatwo podważyć wiarygodność wielu materiałów wideo i audio, które krążą w sieci:

1. Odmiana liczebnikówDeepfaki często mają problem z prawidłową odmianą liczebników, szczególnie w przypadku godzin, dat czy liczb. Mogą to być np. „trzy godziny” zamiast „trzecią godzinę” lub „piętnaście minut” zamiast „piętnastu minut”. Takie błędy są sygnałem, że nagranie mogło zostać wygenerowane.
2. Błędne lub nienaturalne akcentowanie wyrazówDeepfaki często nie odwzorowują subtelnych cech akcentowania, co sprawia, że niektóre słowa brzmią nienaturalnie lub niezgodnie z kontekstem.
3. Niewłaściwa odmiana rzeczownikówGenerowane treści mogą niepoprawnie odmieniać rzeczowniki. Zwróć uwagę, gdy osoba publiczna znana z jasnej i płynnej mowy wypowiada zdania chaotyczne lub niepoprawne gramatycznie. To może być deepfake.

Choć modele generatywne stają się coraz bardziej zaawansowane, ich ograniczenia wynikają z analizy języka na poziomie danych. Algorytmy nie zawsze rozumieją kontekst, a brak naturalnego wyczucia języka sprawia, że takie błędy są łatwe do zauważenia dla wprawnego słuchacza.

Kolejna porcja wiedzy o deepfake’ach za dwa tygodnie: Z kolejnego odcinka dowiesz się, jak zauważać błędy logiczne, które zdradzają manipulację treściami.

Obserwuj nas na Google News

Zobacz również: