Rozhovor s Vierou Čákanyovou o umelej inteligencii
Experimentálna dokumentaristka Viera Čákanyová v súčasnosti dokončuje svoj celovečerný debut Frem, ktorý získal na uplynulom MFF Sarajevo v sekcii dokumentov vo vývoji cenu Docu Talent Award 2019. V rozhovore rozpráva o umelej inteligencii (artificial intelligence, AI) vnímanej ako vedomá subjektívna entita, ktorá nezastaviteľne expanduje svoje možnosti – ako odznie vo filme, „z digitálneho ihriska do fyzickej reality“ –, pričom sa však pohybuje mimo rámcov ľudského myslenia a spôsobu nazerania na svet.
Svet, ktorý pozoruje a skúma umelá inteligencia v tvojom filme, sprítomnená subjektívnym pohľadom oka kamery, je krajinou Antarktídy. Prečo si práve tam umiestnila entitu AI?
Táto krajina mi pripomína akúsi protozem – svet pred miliónmi rokov a existenciou Homo sapiens. Pomocou nej som chcela nasimulovať podmienky sveta po tom, ako z neho zmizneme. Myslíme si, že sme vrcholom biologickej evolúcie, lenže možno práve paralelne prebieha aj iná evolúcia, ktorá sa odohráva na pôdoryse silikónovej hmoty. Tú sme síce iniciovali, ale nemáme nad ňou úplnú kontrolu. Vo filme je prítomná evolučná linka, v rámci ktorej umelá inteligencia objavuje anorganickú hmotu, postupne nachádza nejakú formu života na báze uhlíka, pokračuje človekom a ide ďalej. Prostredie Antarktídy má dystopický odkaz aj kvôli aktuálnemu problému klimatickej zmeny.
Film implicitne tvrdí, že skutočne poslednou hraničnou situáciou našej existencie bude vyvrcholenie planetárnej ekologickej krízy. Kým sa vo filme v istej chvíli objaví aj človek, mal som z neho práve pocit akéhosi postkatastrofického sveta. Ty však hovoríš aj o protozemi aj o svete po človeku.
To je práve vizuálne zameniteľné. Jediné, čo tu pravdepodobne ostane, je príroda, ktorá sa zaobíde aj bez nás. Dokonca aj keby klimatická zmena postupne zničila podmienky pre život ako taký, hmota na Zemi bude v nejakej forme pokračovať ďalej. Príroda na Antarktíde je fascinujúca, byť v tej čistej, monumentálnej, do istej miery nemilosrdnej krajine je veľmi silný zážitok. Pri nakrúcaní ľadovcov mi bolo ľúto, že miznú a človek je toho príčinou. Vo filme je myšlienka neodvratnej zmeny, ktorej svedkom alebo post-svedkom možno bude iná než ľudská inteligencia.
V tvojom filme je umelá inteligencia vedomou subjektívnou entitou. Čo ťa priviedlo k myšlienke oka kamery performujúceho optiku AI ako pozorovateľa?
Krajina tu je nato, aby bola pozorovaná. Pozorovateľ alebo pozorovateľka mení realitu, ktorú pozoruje – to je kvantová fyzika. Svojou prítomnosťou ju dokonca vytvára. Keď budeš svietiť na elektróny, aby si ich vôbec videl, budú sa správať inak, ako keby si na ne nesvietil. Videná situácia je závislá od entity, ktorá ju pozoruje. To bola moja inšpirácia. Frem je pokusom o audiovizuálnu predstavu iného než ľudského pozorovateľa, ktorý má potenciálnu možnosť fyzickú realitu pretvárať. Chcela som vizualizovať mentálne procesy umelej inteligencie, pričom som samozrejme narážala na limity mojej ľudskej imaginácie. Je to paradox – keď sa povie umelá inteligencia, predstavíme si niečo neľudské, no napriek tomu máme prirodzenú potrebu antropomorfizovať, personifikovať iné subjekty, ktorým prisudzujeme ľudské vlastnosti, a vo filme sa stotožniť s „hlavným hrdinom“. Tu je hlavným hrdinom entita, ktorá nie je človek. Má videnie technického aparátu, lenže toto videnie simuluje pohľad ľuďmi skonštruovanej kamery.
Je to teda videnie, aké poznáme, ktoré je nám blízke. Tento paradox nám spôsobuje nepríjemné pocity úzkosti, nepohody, ohrozenia. Čo teda sledujeme? Koho je to pohľad? Nevieme odhadnúť, čo bude „tá vec“ robiť, čo sa bude diať. U ľudí vieme odhadovať ich konanie, zdieľame na elementárnej úrovni rovnaké hodnoty a podobné heuristiky myslenia, totožné prejavy emócií. Napriek tomu, že sa snažíme naočkovať umelým neurónovým sieťam naše hodnoty, nevieme zaručiť, do akej miery ich učiace sa inteligentné algoritmy budú nasledovať. Neustále sa rozvíjajú, napredujú v učení a sú čoraz viac schopné aplikovať svoje poznatky a modely riešenia rôznorodých problémov. Nevieme, čo sa naozaj deje na mikroskopickej úrovni v umelých neurónových sieťach. Vygeneruje sa v nich raz vedomie, tak ako sa to stalo v biologickej evolúcii nám? Ak sme „len hmota“, je to teoreticky možné, ak nasimulujeme potrebné podmienky a pridáme k nim paramater času. Je to také jednoduché? Výzvou vo vývoji umelej inteligencie je idea vytvoriť tzv. „GAI“ – general artificial intelligence, všeobecnú umelú inteligenciu, ktorá nebude len úzko zameraná na riešenie jedného problému, ale bude schopná transponovať vedomosti a poznatky do iných oblastí, vidieť súvislosti a orientovať sa vo svete v jeho komplexnosti. Jedinou takou inteligenciou, ktorú zatiaľ poznáme, sme my ľudia.
To, ako by sa AI ako vedomý „organizmus” mohla správať, je vecou tvojej imaginácie a umeleckej licencie. Vo filme je to aktívny pozorovateľ, hoci jeho telo nepoznáme. Bádať dokáže aj softvér, ktorý naprogramujeme, ale v tvojom filme ide o autonómny subjekt, ktorý akoby sa udivoval svetom Antarktídy. Čo si týmto zobrazením chcela docieliť?
V prológu filmu naznačujem, že keď dosiahne AI určitý hraničný stupeň inteligencie, pravdepodobne sa rozhodne opustiť svoje digitálne ihrisko a preskúmať teritórium fyzického sveta. Keď je niečo inteligentné, prirodzene sa to snaží o maximalizáciu svojich možností, akými sa dokáže pohybovať v rámci komplexity hmoty a uskutočňovať svoje ciele. Opäť sa nevyhneme antropomorfným prirovnaniam: je to ako keď sa ti narodí dieťa, ktoré v istom momente odíde z domu a začne sa správať úplne inak ako si si predstavoval. Údiv je podľa mňa kategória, ktorú si do filmu dosadzuješ ty, lebo si človek
a tá reprezentácia je natoľko udivujúca, že tej sugescii podľahneš.
Do akej miery je koncept „friendly AI“, teda eticky ľudskej umelej inteligencie, utópiou?
Inteligencia neurónových sietí môže na rozdiel od človeka rásť exponenciálne – teoreticky nemá obmedzenia ako náš „mozgový hardvér“, ktorý funguje na určitej neprekročiteľnej rýchlosti (napr. rýchlosť prenosu nervových impulzov má nejakú hraničnú hodnotu). Môže to dospieť až do tzv. singularity, ako príklad sa uvádza veľmi robustný optimalizačný algoritmus (ktorý ani nemusí byť vedomý) s úlohou vyrábať sponky na papier. Plneniu svojho cieľa podriadi celú svoju inteligenciu a kreativitu, až premení všetku hmotu vo vesmíre na papierové sponky – nájde vysoko sofistikované riešenie, ako to uskutočniť, a nebude ho zaujímať, že pri tom, ako vedľajší efekt, zanikne biologický život.
Od určitého stupňa inteligencie bude AI nevyhnutne schopná editovať a modifikovať aj vlastný zdrojový kód. Pre nás to bude nekontrolovaný vývoj, čo je jeden z hlavných argumentov proti „friendly AI“ a zdroj obáv mnohých AI vývojárov aj širšej, nielen vedeckej verejnosti. Vo svojom filme sa implicitne prikláňam k tejto skepse. Je to samozrejme zaujímavé aj z filmového hľadiska, lebo sú to len divoké dohady, rovnako ako krok mimo zvyčajných naratívnych štruktúr.
Filozofia, umenie a veda môžu vzájomne vytvárať umelecký aj vedecký diskurz, ide o plnohodnotné a rovnocenne komunikujúce systémy. Nie je Frem práve o spolupráci vedy a umenia, rovnako dôležitých pre naše poznanie?
Ja si práve myslím, že sa – aspoň v našej „západnej spoločnosti“ – nastavil univerzálny výklad sveta skrze vedu, ktorá je „novým náboženstvom“, a napríklad pokusy o spirituálny, metafyzický, akokoľvek imaginatívny výklad sveta sú pre ideálneho, to jest príčetného, kriticky mysliaceho jedinca akoby irelevantnými, až ezoterickými záležitosťami. Trochu naivnými. Zatvárame sa do klietky vedeckého výkladu sveta, čo je až smutne reduktívne. Keď niečo nedokážeme vysvetliť, znamená to len, že sme sa vo výskume nedostali dosť ďaleko, do stále väčších detailov, ktoré sa ale pred nami otvárajú ako nekonečná fraktálová štruktúra. Aj keď sa v globálnom diskurze hovorí o klimatickej zmene, akoby jediným reálnym a relevantným riešením bol nejaký technologický zázrak – napr. niekto vymyslí a vypustí do vzduchu nanoroboty, ktoré pohltia CO2 a budeme zachránení! Je to vyhýbanie sa morálnej zodpovednosti za naše konanie.
Táto ekologická kríza je omnoho hlbšia – existenciálna. Keď sa z antropocentrického pohľadu hovorí o možných limitoch morálky novej AI, environmentálna kataklyzma, ku ktorej spejeme, odkazuje k limitom našej vlastnej morálky.
Myslím si, že nastáva doba, keď je nevyhnutná zmena perspektívy – súvisí to s redefinovaním našej pozície a situácie vo svete. Musíme si naozaj do hĺbky uvedomiť, že sme súčasťou ekosystému tejto planéty, rovnako ako iné biologické organizmy. Zdanie privilegovanej pozície je zdrojom pýchy a arogancie a prináša fatálne dôsledky. Frem chce nastaviť tento typ pohľadu, či nadhľadu: človek je z nadhľadu len „mikroskopický subjekt“ v krajine. Chcela som sprostredkovať tento zážitok – je to vlastne v prvom rade „zážitkový film“.
Frem sa dotýka témy pamäte cez expozíciu nakrútenú na šestnásťmilimetrový celuloidový pás, ktorá je pripomienkou materiálovej tradície filmu ako nedigitálneho média. Ako si podľa teba bude pamätať vedomá AI?
Neviem. Možno keď dosiahne AI singularitu, pojem pamäť, ktorý inherentne súvisí s parametrom času, stratí zmysel. Vo filme som vychádzala z predpokladu, že svojou voľbou – vstupom do fyzického sveta – experimentuje aj s telesnosťou. Toto „vyňatie“, ohraničenie subjektu vo vzťahu k prostrediu a zároveň vystúpenie z tekutého virtuálneho sveta, ktorý je pre AI akoby plodovou vodou, spôsobuje nevyhnutne pocit úzkosti, zraniteľnosti, ohrozenia. AI sa ocitne v novom prostredí, a toto neznáme prostredie má voči jej subjektu ostré, potenciálne zraňujúce hranice. Súvisí to aj s kategóriou údivu (vstup do iného, neznámeho sveta), o ktorej sme sa bavili predtým.
Ďalšia úvaha s tým spojená je, že spracovávanie informácií môže mať subjektívnu podobu, je to nejaký zážitok, ktorý má u človeka emočný náboj. To je samozrejme v súvislosti s umelou inteligenciou ťažko predstaviteľné, ale Frem sa práve o takúto analógiu pokúša vo zvukovej zložke filmu, ktorá sa snaží „vizualizovať“ jej mentálne procesy.
AI v mojom filme interaguje s prostredím, ktoré vysiela nejaké signály a vo zvukovej rovine to v divákoch a diváčkach vytvára istý pocit. Používali sme pritom granulárnu syntézu, čo je algoritmický rozklad zvukov na mikroelementy, a ďalší procesing zvukov, ktoré sú následne spájané do nových textúr. Chceli sme tým navodiť dojem snahy o porozumenie prostrediu a následnej kreatívnej mentálnej práce.
Rozhovor viedol Matej Sotník
