Fake news zvíťazili: o AI a pravde
V poslednej dekáde sme zažili veľké kampane proti fake news a dezinformáciám. Nielenže veľa nedosiahli, ale zároveň sme boli vystavení novému šíriteľovi dezinformácií – takzvanej „umelej inteligencii“. Ako tieto systémy fungujú, prečo sú neschopné pravdy a prečo sú zrazu všadeprítomné?
Od brexitu a volebného víťazstva Donalda Trumpa v roku 2016 sa pre liberálny establišment stali veľkou témou fake news. Tento pojem zahŕňa dezinformácie, hoaxy, a propagandu šírenú s cieľom vystupňovať politickú polarizáciu v demokratických štátoch, podkopať demokratické zriadenie a oslabiť ochotu bojovať proti vonkajším aj vnútorným antidemokratickým silám. Sem patrí najmä ruská propaganda (či už v podobe médií ako RT alebo tzv. trollích fariem, teda organizovaných skupín, ktoré promujú oficiálnu štátnu líniu pod maskou bežných užívateľov sociálnych sietí), ale aj „antimainstreamové“ médiá ako Fox News či v našom kontexte Štandard, Hlavné správy a iné podobné online médiá. Ešte naliehavejším sa tento problém stal počas pandémie COVID-19, keď sa popieranie existencie či smrteľnosti tejto choroby, respektíve účinnosti očkovania proti nej, stalo priamou hrozbou pre verejné zdravie a poriadok.
Odpoveďou na toto „nové nebezpečenstvo“ (v skutočnosti sú na ňom nové jedine použité technické prostriedky, respektíve médiá – propaganda ako taká je aspoň taká stará ako politický život vôbec) boli iniciatívy na rôznych úrovniach: od amatérsko-dobrovoľníckych ako lotyšskí „elfovia“ cez nástroje ako slovenský projekt konšpirátori.sk, v ktorých kvalitu médií posudzujú kvalifikovaní odborníci a odborníčky, až po celoeurópske regulácie ako Kódex postupov EÚ proti šíreniu dezinformácií. Fact-checking politických diskusií, ako je slovenský projekt demagog.sk, sa tiež stal stálicou našej verejnej diskusie.
S týmto úsilím v princípe súhlasím. Demokratický štát stojí a padá na vzdelaných a dobre informovaných občiankach a občanoch schopných nezávisle posúdiť informácie, ktoré prijímajú, a na ich základe sa zodpovedne rozhodnúť o tom, čo v danej situácii považujú za najlepší kurz pre svoju krajinu. V skutočnosti sa však napriek všetkej tejto snahe veľa nezmenilo: „antisystémové“ médiá a politické sily naďalej rastú a prosperujú, ako vidieť už z Trumpovho znovuzvolenia. Navyše sa v posledných rokoch objavil nový šíriteľ fake news na bezprecedentnej škále: to, čomu sa bežne hovorí „umelá inteligencia“, teda veľké jazykové modely ako ChatGPT.
Ako funguje „AI“
„Umelá inteligencia“ sa týmto modelom hovorí na základe slávneho Turingovho testu, ktorý je dodnes základným kameňom výskumu strojovej inteligencie. Ten otázku „dokážu stroje myslieť?“ testuje ako schopnosť stroja produkovať text nerozlíšiteľný od ľudského. To dnešné „umelé inteligencie“ očividne dokážu, a nazývame ich „umelé inteligencie“ práve na tomto základe. Tieto modely však nie sú „inteligentné“ v tom zmysle, že by premýšľali alebo mali koncept pravdy a nepravdy. Spôsob, akým fungujú, je taký, že na základe vstupu (otázky, ktorú im človek položí) a svojich tréningových dát (kvantá všemožných textov pozbieraných z internetu) dokážu podať pravdepodobne vyzerajúci výstup (odpoveď, ktorá človeku príde zmysluplná tak obsahom, ako aj formou). Ich jediným cieľom je presvedčiť človeka o zmysluplnosti ich odpovedí, akokoľvek nepresné či fiktívne sú.
Cieľom ich výstupov je jednoducho len byť presvedčivým pre ľudského užívateľa. „Presvedčivosť“ tu znamená jedine to, že ich výstupy sú na nerozoznanie od reči, respektíve textu skutočného človeka. Nie je vôbec dôležité, čo hovoria, ale len to, ako to hovoria. Preto sú mimochodom schopné aj elementárnych počtárskych omylov, akých by sa nedopustila sebajednoduchšia kalkulačka. Počítače, ktoré nevedia počítať: to je realita dnešnej umelej „inteligencie“. Nazývať tieto modely „umelá inteligencia“ je teda hrubou chybou, a jasne sa tu ukazuje, ako neadekvátny je Turingov test a jeho kritériá na definovanie toho, čo sú myslenie a inteligencia.
Zároveň existujú indikácie, že tieto „stochastické papagáje“ – termín, ktorý navrhla skupina vedcov ako vhodnejšie pomenovanie týchto modelov – sa nielenže principiálne nezlepšujú, ale dokonca zhoršujú. Keďže ich tréningové dáta sú pozbierané z internetu, a internet je čím ďalej tým plnší nespoľahlivého obsahu generovaného AI, novšie iterácie týchto modelov sa trénujú na čoraz horších dátach a tým generujú čoraz horšie výsledky. Táto dynamika je analogická degeneratívnym efektom, ktoré u ľudí produkuje incest, a Jathan Sadowski ju preto pomenoval „habsburská AI“ – po vzore takzvanej „habsburskej čeľuste“.
Zosračkovávanie ako logika technologických gigantov
Toto všetko by bola relatívne okrajová záležitosť – nebyť toho, že technologickí giganti do týchto modelov investovali a investujú ohromné peniaze, a preto ich zároveň nútene implementujú do všetkých svojich produktov. Google vyhľadávanie teraz užívateľom prominentne predhadzuje vysoko nespoľahlivé „AI sumáre“. Facebook robí niečo podobné, a na Instagrame sa nedávno pokúsil zaviesť AI persóny, ktoré sa prezentovali ako bežní užívatelia. Posledný menovaný pokus je príkladom takzvaného engagement farmingu, čiže snahy lacno získavať pozornosť a kliky ľudských užívateľov. Engagement farming bol zároveň veľmi uľahčený hocikomu prostredníctvom ľahko dostupných textov generovaných AI a fotiek. Môj facebook je takýchto textov plný, hoci sa im snažím vyhýbať – stačí však, že na zaujímavo vyzerajúcom príspevku kliknem na „vidieť viac“ alebo sa pri ňom len na pár sekúnd zastavím (kým si neuvedomím, že čítam odpad vygenerovaný AI), a algoritmus Facebooku to vyhodnotí ako engagement a príslušný obsah ako niečo, čoho mi treba strkať stále viac. (K tejto téme viac tu.) Plus je tu samozrejme ohromný potenciál pre tvorbu skutočných dezinformácií typu falošných, ale realisticky vyzerajúcich fotiek a videí skutočných ľudí, ktoré vygenerovala AI.
Dôvod, prečo sa to deje, je jednoduchý – honba za ziskom, presnejšie povedané za čoraz vyšším ziskom, ktorý jediný dokáže uspokojiť akcionárov. Lenže v našom konečnom svete nič nemôže rásť donekonečna, a technologické firmy sa tak po dosiahnutí istej úrovne organického rastu musia snažiť extrahovať stále viac zisku od už existujúcich užívateľov a užívateliek, ktorých počet už zásadne nerastie. To vedie k dynamike, ktorú Cory Doctorow pomenoval zosračkovávanie (enshittification), a ktorej jadrom je fakt, že technologickí giganti si môžu dovoliť robiť svoje služby čoraz horšie pre bežných užívateľov aj platiacich zákazníkov a zákazníčky (to jest nákupcov reklamy), a tak generovať čoraz vyšší zisk bez korešpondujúceho zlepšovania služieb. To si môžu dovoliť preto, že voči nim neexistuje žiadna relevantná alternatíva, teda vďaka svojej kvázi monopolnej pozícii.
Podľa vynikajúceho Eda Zitrona je konečnou príčinou tohto vývoja spôsob riadenia týchto spoločností, ktorého cieľom nie je vytvárať dobré produkty alebo (čo i len ekonomicky) udržateľný model rastu, ale neustále maximalizovať zisky pre akcionárov – teda riadenie podľa maximy Miltona Friedmana, že „spoločenská zodpovednosť firiem je zvyšovať svoje zisky“ a nič okrem toho. Fiat pecunia, pereat mundus. Bežný užívateľ či užívateľka výmenou za tieto čoraz horšie služby, ktoré robia svojich majiteľov čoraz astronomickejšie bohatšími, dostane len techno-optimistické rozprávky o tom, ako sme na ceste k „skutočnej“ AI alebo artificial general intelligence (čo je z vyššie popísaných dôvodov pri súčasnej architektúre týchto modelov nemožné, a nič na tom nezmenil ani čínsky DeepSeek), alebo o sebestačnej kolónii na Marse o 20 rokov, ktorá nás má zachrániť pred environmentálnym kolapsom tu na Zemi (čo je ďalšia z Muskových mnohých lží pre dôverčivých hlupákov). A samozrejme, s Trumpom ako prezidentom a jeho novou alianciou s technologickými oligarchami, obzvlášť s Elonom Muskom, nemôžeme v dohľadnej budúcnosti v tomto smere očakávať žiadne zlepšenie.
* * *
Výsledok tohto vývoja je tristný. Vďaka týmto „umelým inteligenciám“ je dnes omnoho ľahšie ako kedykoľvek predtým vidieť len to, čo chceme vidieť. Zároveň sa pre nás, ktorým záleží na realite, stáva nemožným veriť čomukoľvek, čo nájdeme v internetovom vyhľadávaní, ak si to sami prácne neoveríme – ani ak to pochádza z inak rešpektovaných zdrojov. Človeku sa až chce povedať, že súčasný vývoj popiera samotnú podstatu internetu ako „informačnej superdiaľnice“ – až na to, že samotný pojem informácie, ako s ním pracuje informatika, taktiež nerozlišuje medzi pravdou a lžou. Opakom „informácie“, respektíve „signálu“ nie je nepravdivá informácia, ale šum (noise), teda číry nezmysel. Technologickí giganti nás vedú do situácie, v ktorej sa nebude dať veriť ničomu a nikomu – teda presne k tomu, čo malo byť cieľom ruských dezinformačných kampaní. S takými priateľmi už ani nepotrebujeme nepriateľov.
Čo s tým môžeme robiť? Z praktického hľadiska je najjednoduchšie používať tieto „služby“ tak málo, ako dokážeme, a ak ich používame, tak zásadne s adblockom, aby sme obmedzili ich možnosti monetizovať nás (mne osobne sa osvedčil Ublock Origin pre Firefox). Principiálne je prvým krokom uvedomiť si inherentnú nepravdivosť súčasnej „umelej inteligencie“ a byť si jej vedomý vždy, keď s ňou alebo s jej výsledkami pracujeme. A vôbec, vždy, keď máme dočinenia s názormi o veciach, ktoré nie sú očividné, skúmať tieto názory a overovať si dôvody, ktorými sú podopierané. Toto úsilie – a je to ťažké a nekončiace úsilie – sa v princípe nelíši od toho, čo Sokrates praktizoval celý život: hľadať pravdu o veciach na základe skúmania a testovania názorov, ktoré o nich ľudia majú, a snažiť sa o výstup od mnohých názorov k jednej pravde (porovnaj Platón, Faidón 99d–100a). Koniec koncov, práve vo vzťahu k pravde leží naša ľudskosť – v zmysle toho, čo robí človeka človekom, aj v zmysle toho, čo stroj (zatiaľ) nedokáže. Čiže: neuspokojiť sa s overovaním „faktov“, neuspokojiť sa s „informáciami“, nech sú akokoľvek „presvedčivé“ – ale hľadať pravdu.
Autor je vedeckým pracovníkom na Filozofickom ústave SAV, v. v. i.