BUDOUCNOST FAKE NEWS: Deep fake videa

Vypadá to, že ověřovat zprávy bude do budoucna těžší a těžší. Začíná se totiž fenomén tzv. deep fake videí. Tedy falešných videí, která vypadají realisticky. Nová technologie založená na zpracování dat neuronovými sítěmi dokáže zaměnit obličej i hlas tak důvěryhodně, že na první pohled nepoznáte rozdíl.

 „Deep fake je označení pro realistickou úpravu videa – především tváří zobrazených osob – která umožňuje např. velmi věrohodně změnit mimiku, tedy i samotnou řeč jednotlivých aktérů videa. V praxi tak můžeme osobám na videu vkládat do úst věty, které nikdy nepronesly, provádět záměny postav, obličejů atd. Deep fake využívá pokročilého počítačového zpracování dat s využitím umělé inteligence (využívá neurální sítě se schopností učit se) a kvalita výsledného produktu – upraveného videa – se neustále zvyšuje,“ píše projekt E-bezpečí.

 „V současné době se tento trend usadil v oblasti politiky a my jste tak mohli vidět falešná videa Angely Merkelové, Donalda Trumpa nebo Baracka Obamy. Ovšem falešné video již zmiňovaného Baracka Obamy vyvolalo větší rozruch. Doposud se jednalo o více méně amatérské kousky z výukových aplikací, toto video je však natolik věrohodné, že nad ním žasnou i odborníci. Nová technologie dokázala, že kdokoliv, kdo se někdy objeví na kameře, může promlouvat vaším hlasem. Odborníci výměnu tváří považují za neetickou a nebezpečnou. Odhaduje se, že v průběhu dvou až tří let může představovat velký problém. Sestavit výkonný software, který by dokázal falešná videa poznat, se zatím nepodařilo. Proto je potřeba o těchto manipulativních technikách vědět a být na ně připraveni,“ píše web Národního informačního centra pro mládež.

„Věděl jsem, že je to možné, ale nebyl jsem si jistý, že to bude skutečně fungovat. Když jsem viděl, že ano, říkal jsem si: Tohle je šílené,“ prohlásil tvůrce videa a produkční webu Buzzfeed.

Podvod je dnes často možné odhalit díky detailům, protože umělá inteligence ještě neumí například přirozeně mrkat. To by se ovšem podle odborníků mohlo změnit možná už v horizontu dvanácti měsíců. „Autor falešných videí se může snadno naučit, jakou techniku používají ti, kdo se snaží podvod odhalit, a překonat je. Hovoříme tu vlastně o nekonečném závodu ve zbrojení,“ varuje bezpečnostní expert Grotto.

 „Už jsme se naučili, že ne každý článek je pravda, že ne každé fotografii můžeme věřit, a teď se to začínáme učit o videonahrávkách,“ říká v pořadu Newsroom ČT24 zakladatel webu Manipulátoři Petr Nutil.

Právě fenoménu falešných videí se věnoval pořad Newsroom ČT24 v posledním díle. Reportáž je možné shlédnout zde.