Daniel Vávra ve svém facebookovém postu tvrdí, že astrologové jsou dalším povoláním zásadně ohroženým umělou inteligencí. Na první pohled to může znít jako vtipná poznámka o tom, že chatbot zvládne vyplodit horoskop stejně ochotně jako člověk. Jenže způsob, jakým je tento závěr vystavěn, stojí na několika zavádějících předpokladech. Vávra totiž popisuje AI, jako by šlo o systém, který „počítá podle tabulek“, porovnává historické situace a z obrovského množství dat vyvozuje, „co podobný výsledek znamenal v minulosti“. Takto ale velké jazykové modely v základu nefungují. Jsou to systémy, které generují text predikováním dalšího slova či tokenu na základě vzorů v datech, na nichž byly natrénovány.
Právě tady je Vávrova hlavní chyba. Směšuje dvě různé věci: výpočet astronomických pozic a jazykovou produkci, která tyto výpočty pouze napodobuje nebo obaluje do přesvědčivě znějícího textu. Horoskop jako schéma postavení těles na obloze skutečně lze spočítat matematicky, to není nic tajemného. Encyklopedické zdroje popisují horoskop jako chartu nebe v určitém čase a místě a astrologii jako systém, který tato postavení následně interpretuje jako znamení. Problém je v tom, že z toho automaticky neplyne, že jazykový model dělá totéž co astrolog nebo že z dat „chápe“, co dané postavení znamená. Ve skutečnosti jen umí velmi dobře napodobit styl astrologického výkladu.
Další slabinou Vávrova postu je, že astrologii představuje téměř jako empirickou disciplínu založenou na srovnávání minulých případů. Jenže seriózní zdroje popisují astrologii jako divinační a interpretační systém, nikoli jako vědeckou metodu opřenou o robustní ověřená data. NASA výslovně uvádí, že astrologie není totéž co astronomie a že její tvrzení nejsou založena na vědeckých důkazech. Britannica zase připomíná, že jde o výklad znamení a domnělého vlivu nebeských těles na lidské osudy; pokusy dodat astrologii přesvědčivý statistický či fyzikální základ zůstávají nepřesvědčivé. Už klasický dvojitě zaslepený test publikovaný v časopise Nature navíc neprokázal, že by astrologické natalní horoskopy spolehlivě popisovaly osobnost lépe, než by odpovídalo náhodě.
Vávra tak vytváří dojem, že AI je „ideální astrolog“, protože má přístup k nekonečným datům a může bleskově porovnávat minulé situace. To je ale sugestivní zkratka. Jazykový model nevlastní databázi ověřených lidských osudů svázaných s polohou planet, ze které by exaktně vyvozoval závěry. Dělá něco jiného: skládá jazykově plynulý text, který zní autoritativně a osobně, i když stojí jen na pravděpodobnostním modelování řeči. Proto také může čtenář snadno získat pocit, že „to sedí“, přestože ve skutečnosti jen čte dobře napsaný obecný text.
Tady vstupuje do hry známý psychologický fenomén, kterému se říká Barnumův či Forerův efekt. Jde o jev, kdy lidé považují velmi obecné a vágní popisy za překvapivě přesné a osobně výstižné. Britannica jej popisuje jako situaci, kdy člověk uvěří, že se výrok týká právě jeho, i když je ve skutečnosti formulován tak obecně, že by pasoval na velké množství lidí. Právě v tom jsou dnešní jazykové modely velmi dobré: ne proto, že by odhalovaly skryté zákony vesmíru, ale proto, že umějí produkovat přesvědčivě znějící, stylisticky hladké a psychologicky „čitelně“ působící věty.
To ovšem neznamená, že Vávra nemá v ničem pravdu. Má pravdu v tom, že AI může snadno nahradit část trhu s generickými horoskopy, zejména tam, kde jde o rychlou výrobu univerzálních textů pro weby, časopisy nebo sociální sítě. Tam chatbot skutečně konkuruje člověku cenou, rychlostí i jazykovou obratností. Jenže z toho ještě neplyne, že AI „funguje jako astrolog“ nebo že by potvrzovala správnost astrologie. Znamená to jen to, že současné modely jsou velmi silné v produkci textu, což ostatně potvrzují i materiály OpenAI: jazykové modely převádějí text na text a jejich klíčovou schopností je právě generování plynulých odpovědí.
Přesnější by tedy bylo říct něco jiného: AI není důkaz, že astrologie funguje. AI je důkaz, že přesvědčivý jazyk lze generovat i bez skutečného porozumění tomu, co se tvrdí. Vávra ve svém postu spojuje technologickou schopnost produkovat text s domněnkou, že tím vzniká lepší astrologická interpretace. Jenže to je falešný skok. Chatbot neumí „vědět“, co konjunkce Marsu se Saturnem znamená v lidském životě; umí pouze napsat text, který jako takový výklad vypadá. A právě v tom spočívá manipulativnost celého sdělení: čtenáři podsouvá, že za hladkou formulací musí být i skutečná analytická hloubka.
Vávrův status je tedy dobrým příkladem toho, jak snadno se dnes zaměňuje povrchová přesvědčivost za skutečné poznání. Nejde o to, že by AI „odhalila tajemství astrologie“. Jde o to, že umí velmi dobře imitovat styl oborů, které samy stojí spíš na symbolice, dojmu a interpretaci než na ověřitelné evidenci. A pokud někdo tuto imitaci vydává za hlubší porozumění nebo za důkaz funkčnosti daného systému, vytváří tím zavádějící obraz reality. Ne snad proto, že by prokazatelně lhal v každé větě, ale proto, že skládá nepřesné premisy do sebevědomého a sugestivního závěru.