Nacionalistický sen o realite vytvára umelá inteligencia

Rýchle, lacné, repetitívne a účinné: krajne pravicové príspevky generované umelou inteligenciou zaplavujú internet a sociálne siete. Za gýčovou fasádou sa skrývajú paralely s nacistickou propagandou. Rozdiel je v tom, že tvorba obrazov v rôznych formátoch, je dnes dostupná pre každého a zákernejšia, ako ukazuje slovenské hnutie Brat za Brata.

Prečo rozvíjať ideológiu svojho politického hnutia, keď ju môžete okamžite vygenerovať pomocou umelej inteligencie? Pozornosť ľudí je aj tak krátka. Zložité naratívy sú zbytočné. Stačí sa predsa opierať o stereotypné vizuálne odkazy na ideologickú minulosť, nie?

Estetika generovaná umelou inteligenciou sa stáva neoddeliteľnou od globalizovanej podoby súčasných extrémistických naratívov, ktoré využívajú krajne pravicové politické strany. Formulácie v promptoch pre veľké jazykové modely (LLM), ktoré vytvárajú idealizované digitálne obrazy, menia vnímanú identitu nacionalistickej „vlastnej skupiny“ a ovplyvňujú aj realitu. Rozsah krajne pravicových volebných kampaní zaplavených AI botmi v Rumunsku a Moldavsku v roku 2025 stanovil alarmujúci precedens. Umelá inteligencia posilňuje aj rétoriku nemeckej krajne pravicovej strany AfD, v súčasnosti veľmi úspešnej.

Slovenský nacionalizmus zdola

Aj malé nacionalistické skupiny sú aktívne pri budovaní svojej idealizovanej identity. Prispievajú do záplavy obrazov generovaných AI, aby posilnili pocit spolupatričnosti svojich priaznivcov. Ich obrazy sú na jednej strane tiež veľmi všeobecné, no siahajú aj po lokálnych historických odkazoch.

Slovenský proruský motorkársky klub Brat za Brata napríklad pravidelne na Facebooku zdieľa obrázky vytvorené AI. Vidieť na nich mladých bielych blonďavých mužov a ženy v tradičných krojoch, svalnaté „stredoveké“ slovanské bratstvo a poľudštené divé zvieratá, ktoré zastupujú Rusko, Slovensko a Česko a stoja bok po boku. Obrazy sú často zasadené do rôznych podôb divokej prírody a dramaticky nasvietené pre heroický efekt. Súčasná propagandistická estetika je zmes prvkov s niekoľkými vrstvami: generické zobrazenia prírody a štylizovaní ľudia sa stretávajú s nacionalistickou symbolikou vo fantasy prostrediach, ktoré pripomínajú CGI filmy pre celú rodinu. Historické stereotypy nezmizli. Nový obsah sa na ne silno odvoláva a AI ich len uľahčuje rýchlo a opakovane vytvárať.

Skutočné fotografie Brat za Brata naproti tomu ukazujú skupinky mužov v strednom veku, ktorí spoločne pózujú v mestskom prostredí v čiernych bomberových bundách s nápismi v azbuke. Jediné, čo majú oba súbory obrazov spoločné, je ruská vlajka v rukách motorkárov.

Brat za Brata tvrdí, že je apolitickou skupinou a organizuje pamätné podujatia venované sovietskej minulosti. Od začiatku rozsiahlej invázie na Ukrajinu v roku 2022 však využíva svoju online platformu na aktívnu podporu proruskej agendy. Vedúci hnutia Matúš Alexa sa stretol so Sergejom Naryškinom, šéfom SVR, ruskej Služby zahraničnej rozviedky. Členovia sa pravidelne zúčastňujú na podujatiach na ruskom veľvyslanectve v Bratislave a chvália sa vzťahom s bývalým veľvyslancom Igorom Bratčikovom. V marci 2025 skupina odovzdala slovenskému prezidentovi spornú petíciu, ktorá žiadala zrušenie sankcií voči Rusku.

Soft power animovaného medveďa

Zobrazenia „skutočnej“ slovanskej identity od Brat za Brata sú presiaknuté zdanlivo nevinnou prívetivou atmosférou. Zapadajú však do vlny ďalších krajne pravicových obrazov generovaných AI, ktoré presadzujú prísny nativizmus. Ruské štátne médiá, ktoré propagandu generovanú AI milujú, pravidelne útočia na legitimitu medzinárodných demokratických inštitúcií, najmä v súvislosti s členstvom Ukrajiny v EU. V sérii provokatívnych obrazov, ktoré zverejnila RIA Novosti, sa potkany s démonickými červenými očami a vycerenými tesákmi tlačia v škatuli s nápisom „NATO“. Iné, s ukrajinskou vlajkou, nasledujú potkaniara z Hamelnu alebo vedú roľnícku vzburu pod oblúkom z hviezd EÚ.

Žiadny jednotlivý príspevok na sociálnych sieťach síce nemusí byť schopný zmeniť verejnú mienku, no spoločne môžu byť veľmi účinným ideologickým nástrojom. Skutočný potenciál obrazov generovaných AI spočíva v tom, že umožňujú postupnú radikalizáciu a polarizáciu identity a tvorbu mýtov. „Ak nevybudujete veľký naratív, teda poviete iba niečo tu a niečo tam, ale nikdy nedovolíte, aby sa vytvoril celý nebezpečný obraz,“ potom je „ťažké uplatniť zákony, ktoré v Európe bežne máme proti nenávistným prejavom…, pretože všetko zostáva len naznačené,“ hovorí filozof jazyka Tomáš Koblížek.

Kontroverzie preto vyvoláva aj obsah, ktorý proruský naratív nepresadzuje celkom otvorene. Široko dostupný detský seriál Máša a medveď na Netflixe napríklad nedávno narazil na Ukrajine a vo Veľkej Británii na odpor, pretože prirovnáva svojho medveďa, „dobráckeho obra“, k Rusku.

Sprístupnenie informačného priestoru širokému spektru proruských naratívov môže byť cvičením v soft power. Tým, že sa soft power vyhýba výlučne politickým a polarizujúcim názorom, dopĺňa tradičnú diplomaciu a komunikuje cez kanály občianskej spoločnosti.

Niektoré propagandistické obrazy sú zámerne nekonfrontačné, či už ide o medveďa z detskej kreslenej rozprávky, alebo o „disneyovsky ladené“ príspevky Brat za Brata na Facebooku. Neurážlivé zobrazenia sa totiž šíria bez prekážok. Rozsiahla produkcia krajne pravicového obsahu generovaného AI, ktorý saturuje online prostredie, sa čoraz viac stáva súčasťou mainstreamu. Používanie tejto extrémistickej symboliky je odsudzované a v niektorých krajinách dokonca nezákonné, no novovytvorený obsah vychádzajúci z ideologického pozadia sa vníma ako mierny, ak priamo nezobrazuje násilie. Nacionalistické skupiny a politické strany skrývajú rasistické, homofóbne a patriarchálne významy do zjemnených vizuálnych naratívov. Navonok tak pôsobia ako normatívne a obchádzajú obmedzenia digitálnych platforiem.

Keď sa integrita politickej reality rozkladá kúsok po kúsku, počnúc malými komunitami a zdanlivo nevinnými kanálmi, otvára sa cesta podobným taktikám, ktoré môžu bez dohľadu ovplyvňovať aj volebný proces. Politickí aktéri využívajú AI nielen na tvorbu obsahu, ale aj na zbieranie údajov, z ktorých vytvárajú podrobné psychologické profily voličov pre vysoko personalizovanú kampaň. Utajené operácie, ktoré produkujú veľké množstvo obsahu generovaného AI, tiež umožňujú politicky motivovaným tvorcom zistiť, ktoré témy a naratívy najviac zaberajú. Občasné šírenie strachu sa považuje za súčasť hry, najmä pred voľbami, len aby sa všetkým pripomenulo, kto je údajne nepriateľ číslo jedna. Obzvlášť účinná sa však ukazuje aj satira a využitie humoru.

Aké zábavné sú deepfaky?

Karikatúry sú v generatívnej AI veľmi výrazné, pretože umožňuje vytvárať nekonečné variácie ľudí zasadených do imaginárnych scenárov. Tvorba deepfakov, napríklad na základe snímok tvárí skutočných politikov, vyvolala diskusiu o etických hraniciach takejto vizuálnej manipulácie.

Počas volebného moratória v roku 2023, teda zákonom stanoveného obdobia pred voľbami, keď sa nesmie viesť kampaň, zasiahol internet na Slovensku deepfakový škandál. Nahrávka, ktorá falšovala telefonát medzi Michalom Šimečkom, predsedom strany Progresívne Slovensko, a novinárkou Monikou Tódovou, sa spočiatku šírila cez Telegram. To, čo bolo pred pár rokmi prekvapujúce, je dnes bežnou súčasťou ekosystému sociálnych sietí. Nedávno sa navyše stalo virálnym deepfake video súčasných koaličných politikov a oligarchu, ktorí sú vo videu údajne vo väzení. Vytvoril ho používateľ Instagramu a rozšírilo sa aj preto, že ho zdieľali opoziční politici.

Slovenskí politici majú sklon zosmiešňovať svojich oponentov. Po týchto prípadoch a po novej legislatíve EÚ, ktorá nadobudla účinnosť začiatkom augusta 2026, sa však pustili do boja proti deepfake videám. Na stole je úplný zákaz a tresty od pokuty po odňatie slobody až na dva roky. Odborníci medzitým vyjadrili obavy z prisudzovania zodpovednosti. Pýtajú sa, či najväčšiu vinu nesú tí, ktorí AI zadávajú prompty, alebo samotné modely, a upozorňujú aj na to, že nájsť skutočného tvorcu škodlivého obsahu, je veľmi ťažké. V niektorých prípadoch je jasné, kto obrázok zverejnil, napríklad na facebookovej stránke Brat za Brata. Mnohé účty sú však anonymné a obsah generovaný AI sa často šíri cez siete botov, čo vinu rozptyľuje ešte o stupeň ďalej. V Európe za obsah šírený na veľkých online platformách zodpovedá akt o digitálnych službách (DSA). Jeho uplatňovanie je však zväčša reaktívne a zameriava sa skôr na zodpovednosť platforiem sociálnych médií než na reguláciu nástrojov AI, ktoré sa využívajú na tvorbu zavádzajúceho obsahu. 

Navrhovaná legislatíva na ochranu digitálnej identity môže mať za cieľ chrániť ľudí pred zneužitím ich tváre v deepfake obsahu, rieši však len časť problému. V prvom rade sa vôbec nezaoberá záplavou obrazov generovaných AI naprieč politickým spektrom. Nerieši ani tzv. vierohodné popretie, ktorým sa ľudia vyhýbajú zodpovednosti za urážlivé správanie: „Ak vás niekto obviní napríklad z rasizmu alebo homofóbie, môžete jednoducho tvrdiť, že to bol vtip,“ hovorí Koblížek. A nekladie si ani otázku, či by bola generatívna AI rovnako účinná, keby neexistovali predsudky, na ktoré sa používatelia AI spoliehajú.

Oživovanie reakčného modernizmu

„Ak sa pozriete na to, ako nemecký týždenný bulvár Der Stürmer zobrazoval Židov v 30. rokoch, je to veľmi podobné tomu, ako dnes AfD zobrazuje migrantov pomocou obrazov generovaných AI,“ hovorí výskumník politickej ikonografie Jacopo Galimberti. Nacistické obrazy idealizovaných árijských rodín sa dajú porovnať s tými, ktoré vytvára Brat za Brata. Stereotypizácia je bežným nacionalistickým nástrojom, ktorý je obzvlášť účinný vo vizuálnej podobe, pretože zveličuje rozdiely medzi „ideálom“ a „tým druhým“.

Veľká časť nacistickej propagandy sa opierala o figuratívne zobrazenia tém, ako je tradičná rodina. Používala ľahko rozpoznateľné vyobrazenia bez vizuálnej zložitosti, no priam prekypujúce občianskou hrdosťou. Rovnako sa velebili stroje. Nadšenie nacistov pre technologický pokrok smerovalo k zastaveniu údajného úpadku západnej kultúry a výzve k akémusi duchovnému prebudeniu. Po vojne túto víziu Jeffrey Herf nazval „reakčným modernizmom“. Bolo to hnutie ochotné paradoxne využiť technologický rozvoj, v snahe vrátiť sa k tradičným nacionalistickým mýtom a ideám.

Nedávny vývoj digitálnych technológií vrátane nástrojov AI a ich využívania vykazuje paralely s reakčným modernizmom 20. storočia. „Technofašizmus“ označuje ideológiu technologickej expanzie nad demokratickou infraštruktúrou štátu, ktorá dáva veľkým technologickým firmám rozhodovacie úlohy vo vláde pod vedením takých osobností, ako sú Peter Thiel a Elon Musk. Estetika vozidiel Tesla Cybertruck a trad wives (tradičných manželiek) sa znepokojivo približuje posadnutosti nacistického režimu vojenskou technikou a rasovo čistými rodinami.

Zmenilo sa však participatívne hľadisko generatívnej AI, ktoré z každého spotrebiteľa robí tvorcu obsahu. Nacistická propaganda bola organizovaná pre masy, nie masami. Joseph Goebbels videl vo filme hlavné médium na šírenie národnosocialistickej ideológie a jeho zábavný charakter využíval na rozvoj vojnovej propagandy. Filmy z tohto obdobia, napríklad obľúbené komédie, zdanlivo rozprávajú apolitické príbehy, no zobrazujú v nich rasistické politiky. Vplyv filmu zostal pre režim taký kľúčový, že ešte niekoľko mesiacov pred kapituláciou Nemecka ľudí stále „verbovali“ ako štatistov do posledných národnosocialistických produkcií.

Dnešná generatívna AI ide o krok ďalej než zapájanie civilistov ako štatistov na veľkom plátne. Ponúka spotrebiteľom plnú účasť a prispôsobenie pri tvorbe obsahu a dáva im kontrolu nad ich vizualizáciami na malej obrazovke. Keďže je tvorba zadarmo, obrazy generované AI živia ľudové formy propagandy. Provokatívny obsah sa teraz môže stať virálnym, a to s pomocou automatizovaných sietí botov, ktoré príspevky v používateľských feedoch posilňujú a maskujú ich ako clickbait. Členovia Brat za Brata z Revúcej, mesta s 10 000 obyvateľmi na strednom Slovensku, nepotrebujú producenta ani miestne publikum. Niekoľkými kliknutiami dokážu vizualizovať všetky svoje predstavy o identite a mocenských štruktúrach a sprostredkovať ich sieti používateľov, ktorí nacionalistické posolstvá ochotne konzumujú.

„Enshittifikovaná“ realita platformového realizmu

Online obsah generovaný AI je relatívne nový, no už rozšírený. Je vytváraný v jasnej a pestrofarebnej palete s rozpoznateľným vizuálnym charakterom a už si vyslúžil vedecký termín: „platformový realizmus“. Pojem zaviedol Jacob Birken a ďalej ho rozvinul Roland Meyer. Označuje črty generatívnej AI, ako sú čitateľnosť, vierohodnosť a štrukturálne nostalgický vzťah k minulým médiám. Meyer zdôrazňuje, že už samotný pôvod produktov generatívnej AI ich oddeľuje od reality, ako ju poznáme, a to už tým, ako LLM spracúvajú zadávané prompty. Meyer vysvetľuje: „Napriek popularite pojmu ‚prompt engineering‘ nie je ich funkciou vykonávanie presného programu, ale neostré parametre, ktoré zužujú možné výsledky a usmerňujú model k určitej oblasti v zdanlivo nekonečnom štatistickom priestore možností.“ Používateľ nakoniec musí skúšať viackrát, kým získa obraz, ktorý sa mu páči. Je to vo svojej podstate proces plytvania, a to z hľadiska zdrojov aj preto, že zahlcuje online priestor vizuálnym odpadom, nostalgiou a clickbaitom.

Pri pokuse analyzovať túto novú realitu vychádzajú výskumníci z množstva oblastí, od filozofie a sociológie až po štúdie spracovania a informačných systémov. Opierajú sa o koncept simulakier a hyperreality Jeana Baudrillarda. Jeho teória popisuje, ako môžu byť zobrazenia vnímané reálnejšie než samotná realita. Na ilustráciu používa Disneyland a ukazuje, akým spôsobom hyperrealita nahrádza realitu za hranicami zábavného parku. Baudrillard tvrdí, že sme už za týmto bodom: „skutočný svet“ je dnes plný simulakier, takže je takmer nemožné nájsť ešte nejaké „skutočné“ zobrazenia. 

Simulakrum novej úrovne je autonómne generovaná realita, aproximovaná z našich znalostných archívov. Tvorba umenia, alebo v tomto prípade tvorba propagandy, ktorá si predtým vyžadovala ľudskú predstavivosť, sa zmenila na zredukovanú sériu promptov pre modely AI. A reprezentáciu reálneho sveta okolo nás nahradili úplne umelé obrazy.

V súlade s teóriou médií filozofa Marshalla McLuhana, podľa ktorej je technológia „rozšírením vedomia“, sa zdá, že AI poskytuje členom Brat za Brata ich vysnívanú realitu. Obrazy generované AI môžu dokonca upraviť aj ich sebavnímanie, za predpokladu, že tieto estetické voľby formujú ich vnímanie reality. Filozofi Philippe Lacoue-Labarthe a Jean-Luc Nancy vo svojej eseji Nacistický mýtus z roku 1990 píšu, že „mýtická moc je mocou sna, premietania obrazu, s ktorým sa človek stotožňuje“. Nástroje na zobrazovanie a komunikovanie identity sa dramaticky zmenili, no starý mýtus o slovanskej jednote pretrváva a vďaka skupinám ako je Brat za Brata, sa nekonečne zveličuje. Tvorba obrazov so zdanlivo nekonečnými možnosťami však prináša výrazné úskalia.

„Strojové učenie funguje na základe korelácie a analógie, spôsobom, ktorý je bližší alchýmii než vede založenej na príčine a následku,“ hovorí digitálna mediálna umelkyňa Hito Steyerl. „Medzi magickým myslením a prvkami strojového učenia existuje blízkosť. Túto magickú atmosféru však veľké korporácie očividne presadzujú len preto, aby predali svoje produkty. Vôbec nie sú magické, skôr sú tzv. enshittifikujúce, čiže robia zo všetkého brak.“

Strategické znečisťovanie veľkých jazykových modelov

LLM sa učia z virtuálnych archívov, ktoré im poskytujeme a v ktorých dominuje Západ. Keď sa vzorce rozpoznajú, možno ich masovo reprodukovať v nekonečných variáciách. Prevládajúce informácie sú preto skreslené.

„Keď sa zamyslíte nad otázkou zodpovednosti, často vzniká tendencia presunúť pozornosť na samotné nástroje AI. Hovoríme o tom, čo nám AI priniesla, či popiera holokaust, alebo nie. Zodpovednosť však v skutočnosti nesú tvorcovia konkrétneho obsahu alebo poskytovatelia modelu AI, a tieto zodpovednosti sa môžu líšiť,“ hovorí Koblížek.

Technológia sa vyvíja rýchlejšie než regulácia. Tempo a zložitosť vývoja LLM sú na úrovni, na ktorej nie je možné stíhať sledovať, či sú modely cielene trénované na šírenie určitej rétoriky, alebo, či zodpovedné osoby len zlyhali pri zabránení týmto skresleniam. Online priestor zdieľajú bežní používatelia a nepravé weby  masovo produkujúce obsah, ktorého cieľovým publikom sú iné boty slúžiace na budúcu tvorbu obsahu. A ako poznamenáva Koblížek, krajne pravicové skupiny túžia po tom, aby sa ich materiál stal súčasťou prostredia LLM: „Extrémistické skupiny aktívne pracujú na tom, aby bol tento obsah dostupný online, aj keď si nezíska veľa zhliadnutí, jednoducho preto, aby tam bol ako potenciálny zdroj pre tréning AI.“

Vzhľadom na spôsob jej fungovania, má generatívna AI tiež tendenciu posilňovať sexistické a rasistické obrazy, ktoré už existujú vo virtuálnych archívoch, ktoré sú zdrojmi LLM a ktoré krajne pravicoví aktéri vyhľadávajú. „Umožňuje to pravici vyvolať nostalgickú, nadčasovú minulosť, ktorá nikdy neexistovala mimo obrazov použitých na trénovanie softvéru,“ hovorí Meyer. Recipročný mechanizmus ponuky a dopytu funguje. Pridajte formát, ktorý sa dá ľahko zdieľať online, a propagandistický stroj je na svete.

V niektorých prípadoch vidíme, že na trendy sociálnych sietí naskakujú aj politici s inými politickými postojmi a generujú vlastný obsah, ktorý zosmiešňuje ich oponentov. „Liberáli, progresívci a ľavičiari však boli naopak vo všeobecnosti zdržanliví vo verejnom používaní AI, a to nielen kvôli všeobecne známym skresleniam modelov, ale aj pre masívne vykorisťovanie ľudskej práce a kreativity, ako aj prírodných zdrojov spojené s tréningom modelov AI. Pre pravicu je teda prijatie rozpoznateľnej estetiky AI alebo ,slopʻ aj spôsobom, ako vyprovokovať a trollovať svojich oponentov,“ dodáva Meyer.

Onedlho možno budeme viesť diskusie nielen o generovaní nových obrazov, ale aj o ochrane integrity minulosti, ktorú možno orwellovským spôsobom ľahko zmeniť. Vláda USA s tým už začala: z webových stránok svojej armády odstraňuje obrázky žien, LGBTQIA+ ľudí a ľudí inej pleti. Meyer varuje pred „digitálnym zabúdaním“. Inak povedané, nemali by sme si byť takí istí „úplnou dostupnosťou minulosti“. „To nielenže plodí všadeprítomnú nedôveru voči akýmkoľvek vizuálnym dôkazom, ale vytvára aj zavádzajúce očakávania o tom, ako by mali historické dokumenty vyzerať,“ hovorí. Keď z našich archívov vymažeme originály, môžu zostať len ako tiene v tréningovom materiáli LLM.

Múzeá a verejné inštitúcie niekedy samy využívajú generatívnu AI, aby vyplnili historické medzery a oživili minulosť. Podľa Meyera sú „takéto špekulatívne použitia často zavádzajúce. Majú tendenciu reprodukovať existujúce klišé o minulosti a o tom, ako by mala byť zobrazovaná, namiesto toho, aby otvárali nový pohľad na históriu.“

Inštitúcie stoja pred úlohou udržiavať pri živote predstavy o pravde, rozvíjať povedomie verejnosti a pomáhať vymedzovať zásady správnej praxe pri používaní AI. Regulácia v tempe, akým sa technológie vyvíjajú, bude trvalou výzvou.

Obsah generovaný AI od skupín, ako je Brat za Brata, sa môže produkovať donekonečna. Medzitým môže dosiahnuť bod nasýtenia, a nakoniec presviedčať už len presvedčených, alebo svojich divákov jednoducho unaviť, tak ako predtým iné formy propagandy.

Autorka je novinárka venujúca sa slovenskej politike a energetike pre The European Correspondent a VSquare.