Kongres hledá způsob jak řešit hrozbu deepfake videí

Deepfake videa je fenomén, který se už dostal i do amerického kongresu. Kongresman Adam Shiff varuje, že mohou mít zničující následky na americké prezidentské volby v roce 2020.

Díky rozvoji umělé inteligence se v posledních letech setkáváme i s fenoménem takzvaných Deepfake videí. Jde o videa nebo fotografie, které jsou kvůli stále sofistikovanějším algoritmům upravené a původně zobrazena tvář se změní nebo umístí do jiného prostředí či situace.

Ve Spojených státech se před pár týdny šířilo video, na němž předsedkyně Sněmovny reprezentantů Nancy Pelosiová působí mírně indisponovaně. První přinesl tuto zprávu Washington Post a video se vzápětí rozšířilo i na Twitter a Youtube. Na Facebooku mělo video minimálně 1,4 milionu zhlédnutí.

Po zjištění, že bylo upraveno, se k němu sociální sítě postavili rozdílné. Na rozdíl od Youtube, který video stáhl, na sociálních sítích Twitter a Facebook je nadále přístupné. Facebook své rozhodnutí zdůvodnil tím, že nemá pravidla, která by mu přikazovala odstraňovat falešné informace. Video pouze přeposlal třetí straně na přezkoumání, ta ho označila za falešné. Jediným výsledkem bylo, že mělo horší hodnocení v zpravodajském vlákně. Odstraněno však nebylo.

Reakce Facebooku inspirovala dva umělce (Bill Posters, Daniel Howe) a reklamní agenturu (Canny). Výsledkem jejich spolupráce bylo podobné video s Markem Zuckerbergem. Chtěli jím jednak poukázat na alibisticky přístup sociální sítě a na druhé straně představit veřejnosti, co dokáží digitální technologie, ale také jaké hrozby s sebou přinášejí.

Kromě deepfake videí se objevují i ​​upravované fotografie. Na portálu Linkedin dokonce vznikl účet, který pravděpodobně sloužil na špionáž. Důkazem může být, že fotografii na profilu vytvořila umělá inteligence – GAN (Generative Adversarial Network). Účet údajně patřil třicetileté Katie Jonesové a propojen byl s 52 lidmi, které působí ve washingtonské politice. Jsou mezi nimi senátoři, poradci či ekonomický expert Federálního rezervního fondu.

Linkedin už mezitím profil vymazal. Jeho mluvčí pro bezpečnost Paul Rockwell prohlásil, že falešné profily porušují podmínky užívání a budou okamžitě vymazány.

Dostáváme se do situace, kdy třeba začít diskusi mezi vládami, nevládními organizacemi a vlastníky sociálních sítí, aby byly nastaveny pravidla, která neomezí svobodu slova, ale co nejúčinněji zabrání internetem šířit vysloveně nebezpečné lži.

Americký kongres se tímto fenoménem začal zabývat na podnět demokratického kongresmana Adama Schiffa. Během panelové diskuse měli experti z univerzit a think-tanků navrhnout účinnou strategii.

Podle části zákonodárců by měly kontrolu nad obsahem provádět sociální sítě. Odborníci doporučují, aby byl ověřován i zdroj odkud video pochází. Pokud by se ukázalo, že nějaké je video falešné, mají sociální sítě udělat vše pro to, aby se dále nešířilo a odstranit ho.

V kongresu se již jedná o dílčích změnách zákonů. Republikánský senátor Ben Sasse navrhl úpravu, aby tvůrci takových zpráv, byly stíhatelní. Demokratka Yvette Clarková zas navrhla, aby autoři deepfake videa svůj výtvor označili viditelným identifikačním prvkem.