Jsme uprostřed covidové pandemie. A zároveň uprostřed pandemie dezinformací. Někdy to tak vypadá, že už není možné rozeznat pravdu od lži, blábol od relevantního vědeckého hlasu.

A víte co? Právě v přímém přenosu koukáme do tváře monstru, které jsme sami stvořili a umožnili mu vyrůst do obludné velikosti. Díváme se na svůj vlastní stín.

Dovolte mi trochu kontextu.

Žijeme ve světě, ve které je nám tvořena vlastní realita nezávisle na pravdivosti. Děje se to tak skrze vysoce personalizované algoritmy, které nám – konzumentům elektronických mediálních obsahů – jsou připravovány na míru s takovou mírou znalostí o nás samých, které si mnohdy ani nejsme vědomi. Stroje, umělá inteligence, naše chytré telefony a počítače, sociální sítě – nás prostě znají lépe, než známe sami sebe. Vytváří obraz nikoli reality, ale nesmírný fraktální počet soukromých realit, odrazů skutečnosti, které ale více zrcadlí nás samé a naše osobní preference, než svět tam venku.

Není úplnou náhodou, že sociální sítě a jejich algoritmy založené na umělé inteligenci vytvořily systém, který upřednostňuje falešné informace. Ne proto, že by to apriori chtěly, ale protože právě takové informace vydělají víc peněz. Strhávají totiž víc pozornosti. A lidé, kteří jsou jimi zasaženi, stráví nad svými telefony a obrazovkami víc času. Pravda je totiž docela nudná. Pravdou nikoho nezaujmete. Fejky prostě strhávají totiž víc pozornosti. A lidé, kteří jsou jimi zasaženi, stráví nad svými telefony a obrazovkami víc času.

Nepředstavujte si to teď prosím tak, že někde v setmělé garáži v kalifornském Sillicon Valley sedí parta iluminátů, kteří řídí svět. Jde o to, že tvůrci sociálních sítí vytvořili pro svou umělou inteligenci jednoduchý cíl, který není zaměřen na zlepšování stavu světa, dobro, demokracii a tak podobně. Je zaměřen na strhávání pozornosti, budování emoční závislosti (kdy jste naposled strávili naposled večer bez svého smartphonu?) a na prodej reklamy. Etika je pro tento systém zcela irelevantní. O ní tu opravdu nejde. Jen o vaše reakce, o vaší pozornost, získanou za každou cenu.

Realita je děsivě prostá.

Mluvíme tu o strojích, které předčí intelektuální kapacity jakéhokoli člověka a spolu se schopností se sám učit může v nepříliš vzdálené budoucnosti způsobit přerod AI v systém s nepředvídatelným chováním. Důsledky takového působení můžeme vidět už dnes. Jsme bombardováni dezinformacemi. Lidé po celém světě pod jejich vlivem zapalují telefonní vysílače 5G signálu, například. Vznikají bojůvky nenosičů roušek a popíračů samotné existence koronaviru.

Už jako bychom nedokázali rozpoznat co je pravda a co ne, a to bez ohledu na to, co nás skutečně zajímá. Jsou to právě algoritmy spolu s populisty, kteří začínají být skvělí v tom, jak nás vyprovokovat, daří se jim tvořit falešné zprávy, které přijímáme jako realitu a matou nás, abychom těm lžím věřili. Je to, jako bychom čím dál tím méně ovládali to, kým jsme a čemu věříme. Vypustili jsme na svět sílu, kterou už nedokážeme ovládat – a tak ona ovládá nás. Tyhle vlivy podkopávají vnitřní stabilitu zemí ve kterých žijeme, nahlodávají a rozbíjejí systém. Můžeme z toho vinit Rusy, nebo Číňany. Ale víte co? Tihle jen využívají nástroje, které tak rádi prodáváme komukoli, kdo si řekne a je ochoten zaplatit.

Právě teď – ve chvílích krize, kdy skutečně jde o hodně – se potýkáme s naším vlastním démonem, který má svůj vlastní účel a smysl – a naplňuje ho víc než dobře. Divide et impera – rozděl a panuj, to je prastará latinská zásada. Jinak řečeno – rozděl, panuj a proměň figurky ve zdroj pozornosti a příjmu. Co svět světem stojí platí, že znesvářené a rozdělené skupině se vládne snáze než skupině semknuté a vnitřně jednotné. A právě s tím se dnes potkáváme tváří v tvář. Ne s nějakou propagandou nějakého nepřítele. Ale s vysoce efektivní a účelnou cestou monetizace naší pozornosti, bez ohledu na následky.

Co s námi udělá takový informační chaos a umělá inteligence? Na to nám dá odpověď jen čas. A my sami.

A my můžeme ovlivnit jen to, kolik z nás naše vlastní chyby v úsudku budou stát krk.


Petr Nutil

contributor

Žurnalista, autor knihy Média, lži a příliš rychlý mozek, zakladatel manipulatori.cz.. Podpořte mě na Patreonu!