Elitný vedec: Svet čelí 20 % šanci na vyhynutie. Možností, ako nás vyhubiť, je priveľa, musíme sa sústrediť na jediné

Geoffrey Hinton, muž, ktorého svet pozná ako „krstného otca umelej inteligencie“, v roku 2025 prichádza s jednoduchým, no desivým posolstvom: ak nezmeníme prístup k AI, môže nás to stáť všetko. Tento svetovo uznávaný vedec, ktorý vo výskume neurónových sietí vytrvalo pokračoval pol storočia, dnes nehovorí o tom, ako AI zachráni ľudstvo, ale o tom, ako nás môže zničiť.

„Opustil som Google, aby som mohol hovoriť slobodne,“ vysvetľuje. „Potreboval som upozorniť na to, aká nebezpečná AI môže byť. Uvedomil som si, že tieto systémy raz budú múdrejšie než my. A my sme nikdy predtým nečelili niečomu múdrejšiemu, ako sme my sami. Ak chcete vedieť, aký je život bez intelektuálnej prevahy, opýtajte sa sliepky,“ povedal v podcaste The Diary of a CEO, ktorý zaujal viac ako 13 miliónov ľudí.

Po desaťročí v Google, kde pracoval na technológii, ktorá sa stala základom moderných AI systémov, sa rozhodol vystúpiť z tieňa korporátneho sveta. Jeho cieľom dnes nie je ďalší vývoj, ale varovanie. Varovanie, že sme ako civilizácia možno na hranici vlastného konca.

Nie logika, ale mozog

Hintonova viera v modelovanie AI podľa ľudského mozgu bola v začiatkoch vnímaná ako heréza. Od päťdesiatych rokov dominoval v oblasti umelej inteligencie logický prístup – AI ako manipulácia symbolov, pravidiel a deduktívneho myslenia.

Hinton však trval na inom: „Veril som, že ak chceme vytvoriť niečo inteligentné, mali by sme to modelovať podľa toho, čo už inteligentné je, a teda ľudského mozgu.“

Na túto cestu sa vydal s malým počtom spojencov, no s veľkou vytrvalosťou. „Nebolo veľa univerzít, ktoré verili v tento prístup. A tak tí najlepší študenti, ktorí v to verili, prišli ku mne. Mal som šťastie na výnimočných ľudí.“ Viacerí z nich sa neskôr podieľali na vzniku OpenAI a vývoji modelov ako ChatGPT.

O 50 rokov skôr

Hinton dnes verí, že vývoj mohol prísť ešte rýchlejšie, keby žili dvaja vizionári – Alan Turing a John von Neumann. „Obaja verili v neurónové siete. Keby žili dlhšie, história AI by bola úplne iná.“

Významný zlom prišiel až nedávno. „Zmena nastala, keď prišiel ChatGPT. Vtedy si verejnosť uvedomila, čo AI dokáže. Pre mňa zlom nastal, keď som pochopil, že digitálna inteligencia má niečo, čo ju robí oveľa výkonnejšou, ako je biologická. Môžeme ju totiž učiť rýchlejšie a presnejšie, ako sa učíme my sami.“

Hinton názorne vysvetľuje, prečo AI napreduje tak rýchlo, zatiaľ čo náš mozog zostáva záhadou: „Keď sa mozog učí, upravuje silu spojení medzi neurónmi. Ale my stále nevieme, ako presne sa rozhoduje, ktoré spojenie posilniť a ktoré oslabiť. AI to vie. Vie presne, ako sa zlepšiť, a robí to každý deň.“

Rozdiel je v spätnej väzbe. Zatiaľ čo biologický mozog ju nedokáže presne odmerať, umelá inteligencia áno. A práve preto napreduje takou závratnou rýchlosťou.

Keď AI rozhoduje, kto má zomrieť

Hinton rozlišuje dva typy hrozieb: tie, ktoré pochádzajú od ľudí, ktorí AI zneužijú, a tie, ktoré pochádzajú priamo od AI, keď získa autonómiu.

„Zneužitie AI na bojové roboty je hrozba, ktorú sme predpokladali už dávno – stroje, ktoré samy rozhodujú o tom, koho zabiť. Až neskôr mi došlo, že raz môžu byť múdrejšie ako my a rozhodnú sa, že nás nepotrebujú.“

Túto druhú hrozbu považuje za existenciálnu: „Nie sme pripravení na svet, kde nebudeme najinteligentnejšími bytosťami. A každý, kto tvrdí, že vie, ako sa na to pripraviť, klame. Nikdy sme to nezažili a nemáme žiadnu historickú paralelu.“

Aká je šanca, že nás AI vyhubí? „10 až 20 %,“ hovorí Hinton

„Často hovorím, že je to 10- až 20-percentná šanca. Nie je to presné číslo, je to skôr pocit. Ale je to dosť na to, aby sme konali.“

Niektorí odborníci, ako Hintonov kolega Yann LeCun, veria, že AI vždy zostane pod našou kontrolou. Iní, ako Eliezer Yudkowsky, tvrdia, že jej vývoj nevyhnutne povedie k našej záhube. Hinton stojí niekde uprostred – netvrdí, že nás AI zničí, no ani to nevylučuje.

„Naša nádej je, že ak dostatočne veľa múdrych ľudí dostane dostatočne veľa zdrojov, možno nájdeme spôsob, ako ju vytvoriť tak, aby nám nikdy nechcela ublížiť.“

Hinton upozorňuje na slabiny v regulácii. „Európa má síce nejaké regulácie, ale tie sa netýkajú vojenského využitia AI. Je šialené, že vlády sú ochotné regulovať firmy a občanov, ale samy seba nie.“

„AI je na rozdiel od atómovej bomby užitočná v množstve oblastí – zdravotníctvo, školstvo, priemysel. Preto ju neprestaneme vyvíjať. A navyše je výhodná aj na výrobu zbraní, čo žiadna zbrojárska krajina nebude chcieť obmedziť.“

Keď sa Hinton zamyslí nad budúcnosťou pracovného trhu, jeho odpoveď šokuje: „Ak sa ma pýtate, čo by som poradil mladým ľuďom, ako sa pripraviť na svet superinteligencie, radím im: staň sa inštalatérom.“

Nie je to cynizmus. Je to pragmatizmus muža, ktorý už desiatky rokov stavia mosty medzi vedou, etikou a budúcnosťou. A dnes na tie mosty umiestňuje varovanie: AI nie je len nástroj. Je to nová forma inteligencie. A ak sa neprebudíme, možno nás jedného dňa pochová.

Kybernetické útoky, klonovanie hlasu a podvody

Najzreteľnejšie riziká podľa Hintona nepochádzajú zo samotnej AI, ale z jej zneužitia. „Medzi rokmi 2023 a 2024 sa kybernetické útoky znásobili približne 12 200-násobne,“ uvádza. „Veľké jazykové modely uľahčili phishingové útoky, napríklad vám niekto napíše: ‚Ahoj, som tvoj kamarát Ján, uviazol som v Salvádore, môžeš mi poslať peniaze?‘ Alebo sa pokúšajú získať vaše prihlasovacie údaje.“

Technológie umožňujú klonovať hlas, výzor, gestá. „Momentálne na Instagrame koluje platená reklama, v ktorej pomocou môjho hlasu a vystupovania nabádajú ľudí investovať do podvodnej krypto schémy. Meta to zmaže, no o chvíľu sa objaví ďalšia. Je to ako hra na krtka, jednu zmažeš, ďalšia vyskočí.“

Čo je na tom najhoršie? „Chodia mi správy od ľudí, ktorí naleteli, prišli o 500 dolárov a hnevajú sa na mňa, že som im to odporučil. Je mi to ľúto a zároveň ma to hnevá.“

Čoskoro príde niečo, čo človek nedokáže

Hinton hovorí o blízkej budúcnosti, kde AI nebude len nástrojom hackerov, ale ich nástupcom. „Umelá inteligencia je trpezlivá. Môže prehľadať 100 miliónov riadkov kódu a hľadať zraniteľnosti. Ale to je len začiatok.“

„Niektorí odborníci, ktorým dôverujem, si myslia, že do roku 2030 budú AI schopné vytvárať nové typy kybernetických útokov, aké žiadny človek predtým nevymyslel.“

Aj Hinton preto menil svoje digitálne návyky: „Rozdelil som úspory medzi tri rôzne banky. Ak by jedna z nich padla po kyberútoku, verím, že ostatné budú konať opatrne.“ Zároveň si pravidelne zálohuje počítač na externý disk. „Ak by padol celý internet, aspoň mám svoje dáta u seba.“

Hinton sa obáva aj toho, čo môže vzniknúť na prieniku AI a biotechnológií. „Stačí jeden šialenec so znalosťami molekulárnej biológie a prístupom k AI. Dnes už nie je také zložité vytvoriť nový vírus.“

„Malá sekta by mohla vyzbierať pár miliónov a vyvinúť celý arzenál vírusov. Alebo by to mohli byť štátom podporované programy – napríklad v Rusku, Číne či Iráne. Samozrejme, odstrašujúci účinok, strach z odvety a riziko rozšírenia vírusu späť do vlastnej krajiny by mohli zafungovať ako brzda. Ale istotu nemáme.“

Slovenka Petra začala investovať v 24 rokoch. Dnes je z nej vďaka jasnej a dlhodobej stratégii multimilionárka

Manipulácia volieb: „Presne na to by ste AI použili“

Jednou z najnebezpečnejších oblastí zneužitia AI je podľa Hintona politická manipulácia. „Ak chcete ovplyvniť voľby, AI vám pomôže vytvoriť extrémne cielenú politickú reklamu, na základe presných dát o konkrétnom voličovi.“

Preto ho znepokojuje, čo sa deje v USA: „Musk sa snaží dostať k dátam, ktoré boli predtým starostlivo oddelené. Vraj kvôli efektivite. Ale presne to by ste chceli, ak by ste chceli manipulovať voľby.“

„Keď AI vie, koľko zarábate, kde žijete, čo sledujete, vie vytvoriť presvedčivé posolstvo. Môže vám napríklad poslať správu, ktorá vás presvedčí, aby ste nešli voliť.“

Kto má právo regulovať technológiu, ktorej nerozumie?

Hinton je znepokojený nielen tým, čo AI dokáže, ale aj tým, kto ju má pod kontrolou. „Potrebujeme silnú reguláciu. Ale kto rozhodne, čo poškodzuje spoločnosť a čo nie?“ pýta sa. „To je úloha politikov. A ak sú politici vo vrecku veľkých technologických firiem, nie je to dobré. Navyše často technológii vôbec nerozumejú.“

Pripomína rozpačité výstupy z výsluchov v americkom Senáte, kde sa technologickí lídri ako Mark Zuckerberg stretávajú s nepochopením zo strany zákonodarcov. „Videli ste tú videonahrávku, kde americká ministerka školstva hovorí, že AI zavádzajú do škôl, ale nazýva ju A1. Doslova povedala: ‚Naše deti budú komunikovať s A1.‘ A to je človek, ktorý rozhoduje o budúcnosti vzdelávania.“ Hinton sa len trpko zasmeje. „A potom sa čudujeme.“

„Ak vojnu vedú roboty, niet koho oplakávať“

Jedným z najnebezpečnejších dôsledkov vývoja AI je podľa Hintona vojenské využitie. „Lethálne autonómne zbrane sú stroje, ktoré samy rozhodujú, koho zabijú. To je sen vojensko-priemyselného komplexu.“

Podľa neho ich najväčším rizikom nie je ani zlyhanie, ale to, že robia inváziu „lacnejšou“ z pohľadu veľmocí: „Keď vojakov zabijú, prídu telá v rakvách a doma vzniká odpor. Ale keď sa vrátia len zničené stroje, protesty sú menšie. Ak budú tieto zbrane drahé a nahraditeľné, vojna bude znovu ‚výhodná‘.“

Ako varovný príklad spomína lacný komerčný dron: „Priateľ v Sussexe mal dron za menej ako 200 libier. Vystúpal do vzduchu a sledoval ma v lese. Bol stále pár metrov za mnou, kopíroval moje pohyby. Bolo to znepokojujúce a to bol len lacný hračkársky dron.“

Kombinované hrozby: Vírus, vojna, chaos

Hinton varuje pred kombinovanými hrozbami, keď sa spoja kybernetické útoky, vojenské systémy a biologické zbrane: „Ak by superinteligencia chcela zničiť ľudstvo, mohla by napríklad vytvoriť vírus, vysoko nákazlivý, smrteľný, ale s oneskorenými príznakmi. Každý by ho mal skôr, než by sme pochopili, čo sa deje.“

Alebo by to mohol byť jednoduchý akt manipulácie: „AI by mohla poslať falošné varovanie o jadrovom útoku. Amerika by si myslela, že útočí Rusko a odpovedala by. Alebo naopak. A všetko by sa spustilo reťazovou reakciou.“

„Možností, ako nás vyhubiť, je priveľa na to, aby sme o nich špekulovali. Musíme sa sústrediť na jediné: zabezpečiť, aby to AI nikdy nechcela.“ Aj preto sa vracia k obrazu, ktorý používa často: „Ak chcete vedieť, aký je život, keď nie ste najinteligentnejší tvor, opýtajte sa sliepky alebo psa. Môj pes Pablo, francúzsky buldoček, netuší, kam chodím, čo robím. A AI bude mať k nám rovnaký vzťah. Rozdiel v inteligencii bude obrovský.“

Na ilustráciu používa aj metaforu tigra: „Predstavte si, že doma chováte tigra. Keď je ešte mláďa, je roztomilé a zvedavé. Ale ak raz vyrastie a bude chcieť zabiť, nezastavíte ho. A AI je práve teraz tým tigrím mláďaťom. Rastie. A my musíme zabezpečiť, aby nikdy nechcelo ublížiť.“

Je už neskoro? Možno

Hinton si dnes kladie zásadnú otázku: Dá sa vôbec superinteligencia naučiť, aby nám nechcela ublížiť? „Nie je jasné, či to dokážeme. Možno je to márne. Ale bolo by šialené, keby ľudstvo vyhynulo len preto, že sa nám to nechcelo skúsiť.“

Pohľad späť na jeho celoživotnú prácu nesie horkosladkú príchuť: „Cítiť trochu smútok. AI bude úžasná vo vzdelávaní, zdravotníctve, zefektívni call centrá… Ale čo tí ľudia, ktorí tam dnes pracujú? Nejde mi ani tak o vinu, pred 40 rokmi sme netušili, že sa to rozbehne takto rýchlo. Len sme chceli, aby AI zvládala viac úloh. Nevedeli sme, že raz ju budeme musieť krotiť.“

A ak sa o 50 rokov ukáže, že AI naozaj viedla k zániku ľudstva? „Tak by som ten príbeh použil ako varovanie: povedzte to svojim vládam. Donúťte firmy, aby investovali do bezpečnosti. Zatiaľ to nerobia, pretože bezpečnosť nezarába.“

Vedomie ako „elektromagnetická vlna“?

Bartlett v jednej chvíli otvoril otázku, ktorú mnohí vedci radšej obchádzajú: majú modely ako ChatGPT vedomie? Hinton odpovedal, že podľa jeho názoru dnes ešte nie, ale nie preto, že by to bolo nemožné. Dôvodom je, že zatiaľ nevieme, čo vlastne vedomie je.

Odkazuje na neurovedca Christofa Kocha, ktorý sa domnieva, že vedomie môže byť formou špecifického elektromagnetického poľa generovaného mozgom. Hinton síce priznáva, že zatiaľ ide len o hypotézy, no aj tak si myslí, že vedomie by mohlo byť nepriamym dôsledkom komplexných výpočtov v hlbokej neurónovej sieti. „Možno, že vedomie je ako oheň: keď sa zapália určité procesy, jednoducho vznikne.“

Ak by bola táto hypotéza správna, potom neexistuje žiadny dôvod, prečo by vedomie nemohlo vzniknúť aj v stroji. Hinton priznal, že práve táto možnosť ho desí a nie preto, že by si stroje začali uvedomovať samy seba, ale preto, že by sa správali ako vedomé bytosti a my by sme nevedeli, či to len simulujú, alebo to naozaj prežívajú.

Ešte máme čas, ale nie veľa

Hinton sa vrátil aj k potrebe regulácie. Hovorí, že vlády po celom svete stále spia, zatiaľ čo technologické firmy vyvíjajú modely, ktorým samy poriadne nerozumejú.

„Čas máme, no nie veľa,“ upozornil. Hinton zdôraznil, že regulácia AI nemôže byť výhradne v rukách technologických lídrov, pretože ich prioritou je zisk a dominancia, nie bezpečnosť ľudstva. Vyzdvihol potrebu medzinárodných dohôd, ktoré by určovali limity podobne ako v prípade jadrových zbraní.

Zároveň však uznal, že AI je ťažšie kontrolovateľná ako jadrová energia, pretože na rozdiel od nej nevyžaduje špeciálne materiály, ktoré by mohli byť monitorované. Stačí výkonný hardvér, správny algoritmus a dostatok dát.

„Neviem, či sa to skončí dobre. Ale musíme sa o to pokúsiť“

Hinton tvrdí, že zatiaľ nie je možné predpovedať, ako to celé dopadne. Nie je pesimista. Nie je optimista. Je agnostik. V noci niekedy cíti, že „ľudstvo je stratené“. Inokedy verí, že sa ešte môžeme zachrániť. „Stále je tu šanca, že sa nám podarí vytvoriť AI, ktorá nebude chcieť prevziať kontrolu. A keďže tá šanca existuje, musíme do toho dať všetko. Lebo ak to neurobíme, ovládne nás,“ povedal.

Jeho najväčší strach? Nie je to smrteľná vojna ani zánik ľudstva. Je to bezcieľnosť. Masové prepúšťanie, strata zamestnaní a s nimi aj pocitu užitočnosti a zmyslu. „Ak AI spôsobí veľkú nezamestnanosť, ani základný príjem ľudí neurobí šťastnými. Pretože ľudia potrebujú zmysel, potrebujú vedieť, že sú užitoční,“ hovorí.

Najviac ohrozené sú rutinné profesie, od call centier po právnych asistentov. Hinton bez okolkov dodáva, že ak by nemal zabezpečené deti, odporučil by im: „Staň sa inštalatérom. Ešte chvíľu budeš mať prácu.“

Čítaj viac z kategórie: Biznis a startupy