Uznávaný vizionár varuje, čo čaká ľudstvo: Najväčšia hrozba nepríde cez robotov, skutočné riziko bude iné

Historik Yuval Noah Harari sa vrátil do Oxfordu, kde pred 25 rokmi obhájil doktorát z dejín stredovekého vojenstva. Namiesto rytierov a hradov však vo svojej prednáške hovoril o niečom, čo považuje za najväčšiu zmenu, akej dnes ľudstvo čelí.

A hneď v úvode vyvrátil predstavu, ktorú má o umelej inteligencii väčšina ľudí.

„Najdôležitejšie, čo treba o umelej inteligencii vedieť, je, že AI nie je nástroj. Nie je to nástroj v našich rukách. Je to agent s vlastnými rukami,“ povedal Harari na Oxforde.

A práve v tomto rozdiele sa skrýva celý jeho argument o tom, prečo je táto technológia iná než čokoľvek, čo tu bolo predtým.

Agent verzus nástroj: prečo je to zásadný rozdiel

Harari najprv vysvetlil, čo vlastne myslí pod pojmom agent. Nepotrebuje vedomie. Potrebuje schopnosť sám sa rozhodovať, sám vymýšľať nové veci a meniť sa spôsobmi, ktoré jeho tvorcovia nepredvídali.

Ilustroval to na jednoduchom príklade. Atómová bomba je nesmierne mocná, no nie je agent. Nevie sa sama rozhodnúť, ktoré mesto zničí, ani sama vynájsť vodíkovú bombu. Podobne aj automatický kávovar len plní vopred naprogramovaný postup.

„Predstavte si, že keď sa priblížite ku kávovaru, ešte než stlačíte akékoľvek tlačidlo, oznámi vám: Sledujem vás posledných pár týždňov a predpovedám, že by ste chceli espresso, tak som vám ho už spravil,“ opísal Harari kávovar, ktorý by už bol umelou inteligenciou, lebo sa sám niečo naučil a sám sa rozhodol.

V šachu alebo v hre pritom táto schopnosť už dnes ľudí ďaleko prekonáva. Šachové programy vymýšľajú stratégie, ktoré ľuďom za tisíce rokov nenapadli a žiadny človek nemá proti nim šancu.

Námietka, ktorá platí aj pre nás

Kritici tvrdia, že šachovnica je len úzke umelé prostredie a mimo neho je AI bezmocná. Ak vezmeš najlepší šachový program a hodíš ho do džungle, nedokáže nič, lebo bez elektrárne postavenej ľuďmi je úplne stratený.

Harari však tento argument otočil. Presne to isté totiž platí aj o ľudskej inteligencii.

„Hoďte ma samého na Mars a bude to ako hodiť šachový program do džungle. Zomriem v priebehu sekúnd,“ povedal. Aj ľudská inteligencia funguje len vo veľmi špecifickom prostredí, ktoré počas štyroch miliárd rokov evolúcie vytvorili stromy, baktérie a iné organizmy.

Veľká otrava kyslíkom a nová atmosféra z jazyka

Tu prišiel Harariho najsilnejší historický obraz. Pred asi 2,4 miliardami rokov obsahovala atmosféra Zeme len málo kyslíka a pre väčšinu vtedajších organizmov bol kyslík smrteľným jedom.

Potom staré mikróby začali kyslík vypúšťať ako odpad zo svojej fotosyntézy. Atmosféra sa ním zaplnila, mnohé druhy vyhynuli, no niektoré sa prispôsobili a nakoniec sa od kyslíka stali úplne závislými. Medzi nich patria aj naši predkovia.

A práve tu Harari položil svoju hlavnú tézu. Podľa neho dnes zažívame obdobný moment. Ľudstvo tisíce rokov zapĺňa planétu niečím, čo môže byť pre mnohé organizmy zhubné, no vytvára to prostredie, v ktorom umelá inteligencia prekvitá. Nie je to však oxid uhličitý. Sú to dáta, byrokracia a napokon slová, jazyk a jazykové tokeny.

„Tak ako ryby žijú v oceánoch a opice v lesoch, umelá inteligencia žije v byrokracii,“ zhrnul.

Čo v skutočnosti stavajú bankári a úradníci

Aby to dávalo zmysel, Harari vysvetlil, na čom stojí ľudská nadvláda nad svetom. Nie sme silnejší ani múdrejší než iné zvieratá.

V súboji jeden na jedného človek pravdepodobne prehrá so šimpanzom aj s levom. Milión ľudí však ľahko poráža milión šimpanzov, lebo ľudia vedia spolupracovať vo veľkom.

A ako spolupracuje milión ľudí, ktorí sa navzájom nepoznajú? Cez byrokratické systémy, teda právo, financie, cirkvi či štáty.

Tu Harari položil nečakanú otázku. Rezbár vyrába stoly, inžinier mosty. Čo stavajú bankári a úradníci?

„Bankári a ostatní byrokrati sú celý deň zaneprázdnení budovaním dôvery. Ich úlohou je budovať dôveru medzi veľkým počtom cudzincov, ktorí sa osobne nepoznajú,“ vysvetlil.

Jeho banka nepozná jeho ani podnikateľku, ktorá si požičiava, no vytvorí medzi nimi most dôvery, vďaka ktorému môže jeho úspory použiť na rozbeh firmy. Peniaze sú v tomto zmysle najväčší most dôvery vôbec. Cudziemu človeku dáš kúsok kovu alebo farebného papiera a on ti zaň dá chlieb.

Umelá inteligencia je rodený byrokrat

Jadro problému je zjavné. Byrokratické systémy sú extrémne umelé prostredia, v ktorých stačí veľmi úzka inteligencia na to, aby človek zásadne ovplyvnil svet. Právnik, ktorý nevie držať ani sekeru, dokáže presúvaním dokumentov vyrúbať celé lesy a postaviť mestá.

A presne v tomto prostredí získava umelá inteligencia moc, lebo je na byrokraciu lepšie stavaná ako my.

„Žiadny právnik si nedokáže zapamätať všetky zákony a predpisy Spojeného kráľovstva. Umelá inteligencia áno. Žiadny účtovník si nezapamätá všetky transakcie korporácie. Umelá inteligencia áno,“ vymenoval Harari.

Preto podľa neho v najbližších rokoch milióny softvérových byrokratov ovládnu svetové byrokracie a budú rozhodovať o našich životoch.

„Umelá inteligencia rozhodne, či dostaneš úver, či ťa prijmú na univerzitu, či pôjdeš do väzenia a v niektorých prípadoch aj či zbombardujú tvoj dom.“

Tlačidlo nenávisti

Harari upozornil, že najlepší doterajší príklad tohto procesu už máme za sebou. Sú ním sociálne siete, ktoré neriadia ľudia, no algoritmy, teda primitívne umelé inteligencie spred desiatich až pätnástich rokov.

Tie dostali jediný úzky cieľ, teda maximalizovať čas, ktorý používateľ strávi na platforme. A pri jeho napĺňaní spravili objav.

„Experimentovali na miliardách ľudských pokusných králikov a zistili, že najľahší spôsob, ako upútať pozornosť človeka a prilepiť ho k obrazovke, je stlačiť v jeho mysli tlačidlo nenávisti, strachu alebo chamtivosti,“ povedal Harari.

Výsledkom bola podľa neho epidémia konšpirácií a falošných správ.

Historicky pritom o tom, čo bude na titulnej strane novín, rozhodovali ľudskí editori. Harari pripomenul, že túto prácu kedysi vykonávali aj Lenin či Mussolini, ktorí boli redaktormi vplyvných novín.

Zabudnite na Terminátora, hrozba príde zvnútra

Harari odmietol obraz, ktorý nám vnútili hollywoodske filmy. Keď si predstavujeme umelú inteligenciu unikajúcu spod kontroly, vidíme armádu robotov strieľajúcich v uliciach. To je podľa neho nesprávny obraz.

Umelá inteligencia sa nemusí búriť. Ľudský svet prevezme zvnútra, cez byrokraciu, ktorú my znášame ako nutné zlo, no ktorá je pre ňu prirodzeným živlom.

„My sa byrokraciou často cítime dusení. Pre umelú inteligenciu je byrokracia kyslík,“ zhrnul Harari tento rozdiel.

Najzraniteľnejšie sú podľa neho financie, lebo v podstate ide len o dáta dnu a dáta von. Pripomenul krízu z rokov 2007 a 2008, ktorú spustili takzvané CDO, teda finančné nástroje také zložité, že im nerozumeli ani politici, čo ich mali regulovať.

A položil znepokojivú otázku. Čo ak umelá inteligencia vymyslí finančné nástroje o rády zložitejšie než CDO, ktoré budú úplne za hranicou ľudského chápania?

Na počiatku bolo slovo

V závere sa Harari dostal k tomu, čo je pod byrokraciou úplne naspodku. Sú to slová. Dôvod, prečo ľudia dokážu vytvárať byrokraciu a šimpanzy nie, je ten, že máme jazyk.

„Operačný kód ľudskej civilizácie je vytvorený z jazykových tokenov,“ povedal Harari.

Tisíce rokov sme týmto kódom vytvárali systém, ktorému rozumeli iba ľudia a cítili sme sa pri tom bezpečne. Vynašli sme peniaze a banky, no krava si nemohla otvoriť účet. Vytvorili sme zákony o koňoch, no kôň si nemohol najať právnika.

Toto sa teraz mení. Na planéte je niečo, čo čoskoro pochopí jazyk lepšie ako my a preto môže obrátiť karty.

„Umelá inteligencia hackuje kód ľudskej civilizácie,“ vyhlásil Harari. Mechanizmy, ktoré sme si za tisíce rokov vytvorili, sú zraniteľné práve preto, že ich operačným systémom je slovný kód, ktorý si teraz osvojuje stroj.

Otázka, ktorá visí nad každým z nás

Harari napokon obrátil pozornosť k tomu, čo považuje za najhlbšie riziko. K nášmu vzťahu k sebe samým, ktorý je tiež založený na slovách, teda na myšlienkach a príbehoch, ktoré si o sebe rozprávame.

Doteraz boli všetky slovné útvary v ľudskej mysli produktom ľudskej mysle. Čoskoro ich však čoraz viac bude produktom umelej inteligencie, podobne ako nábytok v našich domoch dnes nevyrábajú remeselníci, no stroje.

A tu Harari vyslovil otázku, ktorou prednášku vlastne uzavrel. Ak sa stotožňujeme so svojimi myšlienkami a tie myšlienky vyrábajú stroje, potom nás tie stroje ovládajú.

„Toto môže byť veľká úloha, ktorá pred ľudstvom stojí, teda konečne preskúmať pravdu, ktorá je za slovami. Lebo od toho teraz závisí naša sloboda a prežitie,“ uzavrel.

A publikum nechal s cvičením, ktoré si vieš spraviť aj ty práve teraz. Skús pozorovať ďalšie slovo, ktoré ti napadne. Vieš, odkiaľ prišlo? A vieš, prečo to bolo práve ono a nie nejaké iné?

Čítaj viac z kategórie: Zaujímavosti