Staré video i nahrávka vytvořená umělou inteligencí. Tak vypadal týden před volbami na Slovensku

V posledních týdnech se na internetu ve více jazycích šířilo video z potyčky z roku 2021 v italském městě Marotta s nepravdivým tvrzením, že jde o čerstvé záběry. Téma migrace se stalo tématem i kampaně před parlamentními volbami, které se dnes konají na Slovensku. Je pravdou, že Itálie dnes čelí velkému tlaku migrantů z Afriky. K tomuto tématu se vyjádřilo několik evropských politiků. Italská premiérka Giorgia Meloni a předsedkyně Evropské komise Ursula von der Leyen tento měsíc společně navštívily Lampedusu. Meloni tam řekla, že „migrační tlak, který Itálie zažívá od začátku roku, je neudržitelný“.

Záběry šířené na Facebooku však jsou starší. Na původ videa se zaměřila agentura AFP. K incidentu došlo ve městě Marotta v regionu Marche na jadranském pobřeží v centrální Itálii a ne na Lampedusu na úplném jihu země. Během střetu velkého počtu lidí byli napadeni a zraněni karabiniéři (policisté spadající pod ministerstvo obrany), uvádí italská agentura. Podle agentury Ansa byl zraněn i Senegalčan a zatčeni byli dva Albánci, Kolumbijec a Senegalčan.

Při vyhledávání slov „carabineri Marotta“ v Googlu s časovým omezením od 07. do 11. srpna 2021 našla agentura AFP několik článků z italských médií, které o incidentu informovaly. Například noviny Leggo popisují „velkou bitvu, do které se zapojily desítky mladých cizinců: napadly a zranily dva karabiniéry“.

„Slovenští voliči jsou zaplaveni vlnou dezinformací přicházejících od domácích i zahraničních aktérů před předčasnými volbami 30. září, které mohou rozhodnout, zda země změní svou zahraniční politiku ve prospěch Ruska. Slovensko je už roky pod palbou internetových dezinformací a falešných zpráv, z nichž většina pochází z prokremelských zdrojů. Analytici poukazovali zejména na tři strany prosazující falešná protiukrajinská a proruská tvrzení: levicovou Směr-SD bývalého premiéra Roberta Fica, nacionalistické hnutí Republika a Slovenskou národní stranu (SNS),“ píše AFP a v článku uvádí konkrétní případy.

Asi nejzávažnější pokus diskreditovat volby nastal jen dva dny před parlamentními volbami. Slováci ve velkém sdíleli podezřelý zvukový soubor, který byl prezentován jako rozhovor mezi Michalem Šimečkem, předsedou Progresivního Slovenska (PS) a Monikou Tódovou, novinářkou Denníku N. a v nahrávce říkají, že volby 30. září budou zmanipulované ve prospěch PS. Předpokládají, že strana již má nejméně “4 volební místnosti” a také “hlasy z romských osad”.

Nahrávka obsahuje několik anomálií a hlasové výrazy v ní nejsou přirozené. Analytici a dezinformační experti dotazovaní agenturou AFP uvedli, že existuje mnoho náznaků, že jde o podvod.

Zatím neexistují žádné nástroje, které by dokázaly detekovat obsah generovaný umělou inteligencí s absolutní jistotou. V tomto typu obsahu se však mohou vyskytnout anomálie, které naznačují, zejména v případě obrázků, že nebyl vytvořen autentickým způsobem.

V případě inkriminovaného zvukového záznamu existovalo několik takových náznaků, řekl 28. září agentuře AFP Daniel Milo, ředitel Centra pro boj proti hybridním hrozbám při Ministerstvu vnitra Slovenské republiky. „Na základě našeho hodnocení vykazuje dotyčná nahrávka několik známek toho, že je vytvořena umělou inteligencí pomocí algoritmů, které umožňují vytvoření syntetického / umělého hlasu trénovaného na hlasech skutečných osob (tzv. audio deepfakes),” uvedl.

„Ukazuje tón hlasu, nepřirozenou dikci, výběr slov a tak dále. Snaha zamaskovat umělý původ údajného telefonátu (snížená kvalita zvuku, zvonění mobilního telefonu na konci nahrávky) je pro původce nahrávky snadno proveditelná,” uvedl Milo.

“Dezinformátoři před volbami objevili kouzlo umělé inteligence při úpravě řeči. Jediným štěstím je to, že s ní ještě neumí pracovat a tomu odpovídá i „kvalita“ jejich snaživých videí,” glosuje slovenská policie.