Umelá inteligencia je algoritmus. Nie hocijaký, ale chytrý. Futurológ Ray Kurzweil ju definoval ako umelo vytvorený systém úspešne vykonávajúci úlohy, ktoré si, ak sú vykonávané ľuďmi, vyžadujú inteligenciu. Inými slovami, niektoré úlohy sú také ťažké, že si myslíme, že ich zvládne iba človek. Ak si s nimi poradí aj stroj, je inteligentný. Inteligentné algoritmy sú všade okolo nás: nielen v robotoch, ktoré triedia chybné súčiastky na výrobnej linke, ale v autách, telefónoch, hodinkách a vysávačoch. Ovládanie telefónu hlasom, prediktívne dopĺňanie slov v esemeskách, navigácia v aute, vyhľadávanie dopravných spojení, ba aj obyčajné vyhľadávanie na internete – to všetko sú netriviálne úlohy, o riešenie ktorých sa vedci pokúšali niekoľko desiatkov rokov. Problém je, že takto definovaná umelá inteligencia je pohyblivým cieľom: úlohy, ktoré dokáže riešiť, už viac nepovažujeme za ťažké. A asi by nám ani nenapadlo rozmýšľať nad tým, či šachovému algoritmu alebo doplňovaču slov v esemeskách prisúdime status osoby.
Trochu zložitejšie to začína byť, ak je umelá inteligencia realizovaná v zariadení, ktoré má fyzickú podobu – „telo“ a hýbe sa vo fyzickom priestore, napríklad autonómne auto, či robotický vysávač. Pomáhajú antropomorfné prvky: robotovi, ktorý sa podobá na človeka, má oči alebo rozpráva ľudským hlasom, sme skôr ochotní prisúdiť charakteristiky osoby ako napríklad robotickému ramenu, ktoré vyzerá prinajlepšom ako končatina. Ľudský hlas je obzvlášť sugestívny – virtuálni asistenti Siri a Cortana majú dokonca ženské mená a pôsobia ako osoby, aj keď nemajú fyzické telo. Joaquin Phoenix vo filme Her stvárnil muža, ktorý sa zaľúbi do svojho personalizovaného operačného systému. Tajomstvom je sexi hlas, dostatočne inteligentná komunikácia a veľký projekčný potenciál – možnosť dofantazírovať si k hlasu svoje túžby a predstavy. Ľudská schopnosť projekcie a vzťahovej väzby je naozaj veľká, stačí sa pozrieť, akým spôsobom sa vzťahujeme k svojim zvieracím domácim miláčikom. Vzťahovať sa a antropomorfizovať je pre nás prirodzené. Experimentálni psychológovia Fritz Heider a Marianne Simmel už v roku 1944 vykonali pokus, v ktorom pustili študentkám film s animáciou dvoch pohybujúcich sa trojuholníkov, obdĺžnikovej bariéry a kruhu. Väčšina probantiek opisovala scénu, akoby trojuholníky boli živé osoby: jeden sa snaží utekať, druhý ho chce chytiť. Do istej miery je to racionálne: ak pozorujeme nejaké správanie a chceme ho interpretovať, prípadne predpovedať ďalší priebeh, použijeme vysvetľujúci model resp. teóriu. Ak je zvolený model v súlade s pozorovaným správaním, prípadne generuje správne predikcie, je praktické sa ho držať.
Ako to súvisí s umelou inteligenciou? V štyridsiatych rokoch dvadsiateho storočia sa éra počítačov ešte len začínala. Bola spojená s veľkými očakávaniami a nádejami. Čo nové stroje dokážu? Budú inteligentné? Môžu myslieť? Britský matematik Alan Turing navrhol (v článku s príznačným názvom Môžu stroje myslieť?) testovateľné kritérium, odvtedy známe ako Turingov test: v inej miestnosti, do ktorej nevidíte, je človek alebo počítač. Vy s ním vediete rozhovor pomocou ďalekopisu (dnes by sme povedali, že četujete). Môžete sa ho pýtať na čokoľvek. Ak po rozhovore s počítačom neviete s istotou určiť, či ste sa rozprávali s človekom, alebo počítačom, počítač testom prešiel. Dokázať viesť rozhovor ako človek, dokonca dobre klamať (môžete sa ho totiž pýtať, či je stroj, čo si o sebe myslí, aké má túžby, atď…) je iste ťažká úloha, vyžadujúca si inteligenciu, respektíve myslenie. Ak ju dokázal splniť počítač, vie myslieť.
Všimnime si, že toto kritérium je čisto behaviorálne, založené na vonkajšom správaní. Nehovorí nič o vedomí, subjektivite, pocitoch, prežívaní. Mimochodom, rovnaké kritérium používame aj na ľudí: sám o sebe viem, že som mysliaca a cítiaca bytosť, ale o vás to neviem, iba predpokladám. Vyzeráte a správate sa ako mysliaci a cítiaci ľudia, preto nimi ste – to je najjednoduchší vysvetľujúci model. Pomáha aj to, že o ľuďoch, ich biológii a psychológii za posledné storočia už všeličo vieme. Čo ak sa však zjaví niečo, čo sa správa ako my, ale má to telo zo silikónu, prípadne to existuje iba vo virtuálnej realite? Tam bežné intuície zlyhávajú.
A sme naspäť pri umelej inteligencii. Tá sa zvykne deliť na tzv. úzku – špecializovanú (ANI, artificial narrow intelligence) a všeobecnú (AGI, artificial general intelligence). Úzka umelá inteligencia zvláda riešiť ťažké úlohy z úzko špecializovanej oblasti, napr. rozpoznávať číslice, obrázky, ľudský hlas, či hrať šach, Atari hry alebo Go. V každej z týchto oblastí už dnes umelá inteligencia poráža ľudské schopnosti. Všeobecná umelá inteligencia dokáže vykonávať akúkoľvek intelektuálnu úlohu, ktorú dokážu ľudia: autonómne a interaktívne získavať nové znalosti a zručnosti v reálnom čase, rozhodovať sa na základe limitovaných informácií a v neistote. Používať jazyk, usudzovať kontextovo, logicky a abstraktne, vedieť vysvetliť svoje závery. Pamätať si nedávne udalosti a interakcie, rozumieť zmyslu akcií. Dynamicky sledovať viaceré, potenciálne konfliktné ciele, vedieť vybrať relevantné podnety a sústrediť sa na relevantné úlohy. Rozpoznávať a adekvátne reagovať na ľudské emócie a rozumieť vlastným kognitívnym stavom. Vo vývoji všeobecnej umelej inteligencie sme stále na začiatku: v súčasnosti neexistuje žiaden systém, ktorý by v uspokojivej miere spĺňal všetky (alebo aspoň väčšinu) uvedených požiadaviek. Ak by raz takýto systém existoval, zrejme by sme boli náchylnejší pozerať sa naň ako na osobu, než v prípade úzko špecializovaného algoritmu.
Virtuálne telá, virtuálne identity
Predstavte si, že si chcete otvoriť účet a vybaviť kreditnú kartu. Keďže žijeme v digitálnej dobe, nepôjdete do banky osobne, namiesto toho navštívite jej webovú stránku. Stránka bude trochu neprehľadná, no našťastie je vpravo dole známe okienko ponúkajúce asistenciu. Po kliknutí sa otvorí videočet, v ktorom vás privíta úhľadne oblečený a usmievavý asistent alebo asistentka a spýta sa, s čím vám môže pomôcť. Chápavo zareaguje a empaticky prikyvuje, keď hovoríte, ako ste sa nevedeli na webstránke vyznať, a pomôže vám s vybavením vašej požiadavky. Po desiatich minútach máte otvorený účet, vybavenú kreditku a ukončíte rozhovor s dobrým pocitom, že ľudskosť a empatia ešte zo zákazníckeho servisu nevymizli. Ani ste si neuvedomili, že sa nerozprávate so živým človekom, ale počítačovou simuláciou. Sci-fi? Nie celkom. Automatizované textové čety či rozhovory na zákazníckych linkách sú dnes už takmer štandardom, rozdiel oproti načrtnutému scenáru je iba vo väčšinou podradnej kvalite. Objavujú sa však prvé lastovičky s vizuálom – četbot dostáva ľudskú tvár. Na webovej stránke novozélandskej banky ANZ si môžete vyskúšať komunikáciu s digitálnou asistentkou Jamie. Účet vám zatiaľ neotvorí, ale zodpovie základné otázky o bankových produktoch. Za vizuálnou fasádou Jamie je hyperrealistická simulácia fyziológie a mimiky ľudskej tváre, zahŕňajúcej dýchanie, žmurkanie, či červenanie sa. Virtuálnymi svalmi pohybujú virtuálne nervy, emočný výraz je výsledkom modulácie, kokteilom simulovaných hormónov. Ak sa usmejete, analyzátor obrazu z kamery to rozpozná, simulovaná hladina pozitívnych hormónov vzrastie a ovplyvní činnosť tvárových svalov – Jamie sa usmeje naspäť. Rovnako vie analyzovať rozrušený alebo nahnevaný tón vo vašom hlase.
Podobných vizuálnych simulácií je viac – čínsky hlásateľ televíznych správ, či virtuálna influencerka Lil Miquela, ktorá vystupuje v reklamách a má vlastný instagramový profil s 1,6 miliónmi sledovateľov. Točí a zverejňuje videá na YouTube, má vlastnú fiktívnu identitu (devätnásť rokov a brazílsko-španielsky pôvod). Zatiaľ pri pozornom sledovaní odhalíme drobné stopy prezrádzajúce umelosť, ale to sa so zlepšovaním technológie môže do pár rokov stratiť. Virtuálnych bytostí bude pribúdať, najprv v zákazníckom servise a zábavnom priemysle, neskôr v edukácii, alebo ako bežné užívateľsky príjemné komunikačné rozhranie medzi človekom a zariadením či už fyzickým, alebo softvérovým. Dôvod je jednoduchý: čoraz zložitejších systémov pribúda a ich komerčný úspech závisí od postoja ľudí k nim. Ak budú neintuitívne, zložité na ovládanie či ťažkopádne, ľudia ich nebudú používať. Najprirodzenejšou formou komunikácie je pre nás tá, na ktorú sme boli v priebehu miliónov rokov evolúcie vyladení: komunikácia tvárou v tvár. Rozhovor v prirodzenom jazyku, obohatený o neverbálnu komunikáciu, zahŕňajúcu jemné emočné odtiene aj možnosť využívať situované gestá – ukazovať na miesta v zdieľanom priestore.
Aj keď zo začiatku budú simulácie možno trochu ťažkopádne a nebudú celkom dosahovať štandardy ľudskej komunikácie, zvyšok vyrieši naša schopnosť prispôsobiť sa partnerovi v dialógu a už spomínaná projekčná schopnosť domyslieť si, čo je skryté – alebo v tomto prípade skôr chýba. Určite sa dožijeme aj virtuálnych citových vzťahov a naviazaní. Firma Fable na výrobu virtuálnych bytostí provokatívne definuje virtuálnu bytosť ako „postavu, ktorá nie je reálna, ale je možné nadviazať s ňou obojstranný citový vzťah“. Už dnes sa takéto simulácie okrem výrazu avatar nazývajú virtuálnymi bytosťami, či digitálnymi ľuďmi. Znamená to, že sme im už implicitne udelili status osoby? Z filozofického, etického a právneho hľadiska sa môžeme ešte doťahovať, ale na účely praktických interakcií skôr, či neskôr pragmaticky prijmeme už spomínaný princíp: ak to vyzerá ako osoba a správa sa to ako osoba, tak je to osoba.
Etická subjektivita a vedomie
Zdá sa, že na prisudzovanie statusu osoby sme sa uspokojili s behaviorálnymi kritériami, ale nie je to celkom tak. To, čo nás v živočíšnej ríši najviac vymedzuje ako ľudské bytosti, je naša reflektovaná subjektivita: existujem ako ja, vnímam, cítim a viem o tom, že vnímam a cítim. Subjektívne vedomie je jednou z najväčších záhad vied o človeku a jeho mysli: psychológie, kognitívnej vedy, neurovedy, biológie a medicíny. Nemáme uspokojivú odpoveď na otázku ako a prečo vzniká subjektívna skúsenosť. Neurovedec Antonio Damasio rozoznáva viac stupňov vedomia: od reprezentácie stabilných vnemov o stave nášho tela (prvotné ja), cez reprezentáciu elementárnych pocitov (proto-ja), reprezentáciu udalostí a vzťahov k objektom v prostredí (jadrové ja), až po najvyššiu formu – autobiografické ja, ktoré prežíva svoju existenciu ako zmysluplný naratív v čase. Aby som mohol byť osobou, musím mať časopriestorovú kontinuitu: musím vedieť svoju históriu, kým a kde som bol včera. Znovu rozpoznávať veci a ľudí, ktorých som už zažil. Mať očakávania, túžby a predpovede do budúcnosti. Na to potrebujem pamäť. Ak by som sa každé ráno zobudil a nič by som si nepamätal, dokázal by som tu a teraz reagovať na podnety, prežívať a cítiť slasť či bolesť, ale ako osobu by ma nemalo čo integrovať, bol by som iba divák, ktorým preteká nesúvislý joyceovský prúd diania: stále nové „nothing rings the bell“. Teraz nehovorím o etike ani ľudskej dôstojnosti: v ústavoch máme ľudí s veľmi ťažkou mentálnou retardáciou či v kóme alebo vegetatívnom stave len s rudimentárnym vedomím, napriek tomu si zaslúžia láskavú opateru a rešpekt – stále sú to ľudské bytosti. Opisujem skôr nutné (aj keď asi nie postačujúce) podmienky, ktoré by umelý systém musel spĺňať, aby mal vedomie.
Vedomie je teda skôr kontinuum od rudimentárnych primitívnych foriem po vysoko komplexné vedomie podobné ľudskému. Dosiahnu v budúcnosti niektoré formy umelej inteligencie vedomie? To s istotou nevieme, ale nevieme to ani vylúčiť. Moderný vývoj umelej inteligencie sa inšpiruje prírodou: programujú sa umelé neurónové siete, umelá evolúcia, samoorganizácia a sebazdokonaľovanie. Inteligentné systémy (ako sme my) sú prepojené s prostredím okruhmi spätnej väzby: vnemy z prostredia vyvolajú kaskádu nervových vzruchov a elektrochemických dejov v tele, telo reaguje správaním – akciou, tá mení stav prostredia, ktorý je následne opäť vnímaný. Takýchto okruhov existujú na mikro- i makroúrovni v našom tele a mozgu stovky. Každý má vlastnú dynamiku, operujú na rôznych časových škálach a navzájom komunikujú cez hodnoty parametrov. Fyzik Max Tegmark tvrdí, že vedomie je vlastnosť komplexne organizovanej hmoty, nie nutne biologickej. Ak sa nám podarí úspešne replikovať procesy, ktoré v prírode viedli k evolúcii nás – ľudských tvorov s vedomím, sebazdokonaľujúci proces v súbore navzájom interagujúcich dynamických systémov možno dosiahne potrebnú organizáciu a taký stupeň komplexnosti, že sa vedomie objaví. Keďže pramálo vieme o tom ako a prečo sa objavilo vedomie u ľudí, nemôžeme to vylúčiť.
Je to vôbec dôležité? Oveľa skôr ako by umelá inteligencia dosiahla potrebnú komplexnosť, budeme pre praktické účely považovať aspoň niektoré systémy s umelou inteligenciou za osoby. Dôležité je to z etického hľadiska. Ako píše Yuval Harari v knihe Homo Deus, ak by nebolo subjektívneho prežívania, ako by sme zdôvodnili, že znásilnenie a mučenie sú zlé? Sú zlé, pretože niekomu ubližujú, spôsobujú utrpenie. A utrpenie je subjektívny pojem, trpieť môže iba systém, ktorý dokáže prežívať, cítiť. Bude etické ubližovať virtuálnym bytostiam? Ak budú mať autobiografickú pamäť, svoje spomienky, zážitky a túžby, bude etické ich vypnúť či vymazať? Otázka ľudských práv umelých bytostí je nerozlučne spätá s ich subjektivitou, nebude to iné ako zastreliť postavu v počítačovej hre. Ako hovorieva môj syn: veď sú to len pixely.
Právna subjektivita pre umelé bytosti
Americká koncepcia statusu osoby je založená na schopnosti byť nositeľom práv a povinností. Právnická osoba nemusí mať vedomie, príkladom sú firmy, korporácie. Stačí schopnosť mať finančnú zodpovednosť – platiť pohľadávky, náhradu škody, dane. So zvyšujúcou sa prítomnosťou inteligentných zariadení sa otázka zodpovednosti za škodu stáva výsostne praktickou: ak váš inteligentný vysávač spôsobí zranenie susedovmu dieťaťu, kto bude zodpovedný: výrobca vysávača, majiteľ, alebo vysávač sám? Odpoveď je zložitá najmä v prípade systémov, ktoré majú schopnosť učiť sa, zdokonaľovať a adaptovať sa (a takých bude čoskoro väčšina, keďže potenciálne schopnosti umelej inteligencie bez učenia sú veľmi obmedzené). Ktorýsi kolega použil prirovnanie: tvoj tridsaťročný syn spáchal zločin. Si zaň zodpovedný? Splodil si ho, má tvoje gény, dal si mu najlepšiu výchovu, akú si vedel dať. Je však dospelý, žije a ďalej sa vyvíja sám. Žiadna firma vyvíjajúca napríklad autonómne autá si nemôže dovoliť byť finančne zodpovedná za škody, ktoré spôsobia. Ako rozumné sa ukazuje udeliť autonómnym autám právo na poistenie – z poistky by sa platili spôsobené škody. Finančná zodpovednosť teda súvisí s právom vlastniť majetok, to zase s právom zveľaďovať ho. Umelá inteligencia by tak mohla investovať na burze či kupovať nehnuteľnosti. Z majetku treba platiť dane a to už sme pri klasickej právnej subjektivite, akú majú firmy.
Budúcnosť
Legislatívne otázky súvisiace s umelou inteligenciou sa aktívne riešia na úrovni Európskej únie aj na národných úrovniach. Súčasný stupeň vývoja technológií je taký, že si zrejme ešte nejaký čas vystačíme s praktickými zjednodušeniami opísanými vyššie. V našom svete – najprv virtuálnom a neskôr aj fyzickom – budú určite pribúdať systémy, ktoré budú spĺňať naše intuitívne kladené požiadavky na status osoby. Dokonca môže dochádzať k fúziám: vylepšovaniu ľudských zmyslových či kognitívnych schopností implantovanými alebo pripojenými inteligentnými zariadeniami. Z praktických dôvodov budeme nútení súčasný koncept osoby rozšíriť. Celý tento proces má zaujímavú antropologickú dimenziu: čo to urobí s naším poňatím ľudskosti – bude sa meniť? Ohrozia umelé či hybridné bytosti naše vlastné sebapoňatie? Vzniknú podľa vzoru hnutí za záchranu tradičnej rodiny hnutia za záchranu tradičného poňatia osoby? Rozmanitosť môže obohacovať i ohrozovať. Je na nás, čo si vyberieme.
Autor prednáša kognitívnu vedu na Fakulte matematiky, fyziky a informatiky UK a venuje sa počítačovému modelovaniu. Zároveň spolupracuje na vývoji mysle pre umelé dieťa Baby-X.
