Krstný otec AI varuje: Nástup umelej inteligencie prinesie masovú nezamestnanosť. Ľudia nebudú mať kam prejsť

Podľa portálu Futurism vystúpil Geoffrey Hinton, jeden z „krstných otcov“ umelej inteligencie, na verejnom podujatí na Georgetown University po boku senátora Bernieho Sandersa a predstavil sériu vážnych varovaní o smerovaní technológie, ktorú kedysi pomáhal budovať. Podľa Hintona bude nástup generatívnych modelov zásadne odlišný od predchádzajúcich technologických revolúcií, ktoré dokázali vytvárať nové typy zamestnania. Tentokrát to však podľa neho platiť nebude.

Ako citoval Futurism z rozhovoru: „Ľudia, ktorí prídu o prácu, nebudú mať kam prejsť. Ak bude AI rovnako inteligentná ako ľudia – alebo inteligentnejšia – akúkoľvek prácu dokáže prevziať.“ Dodal, že technologické firmy „stavia na nahradení veľkej časti pracovnej sily“.

Hinton, držiteľ Turingovej ceny a spolutvorca moderných hlbokých neurónových sietí, opakuje obavy, ktoré vyjadruje už od odchodu z Googlu v roku 2023. Upozorňuje, že AI môže vytvoriť masovú nezamestnanosť a zároveň ohroziť ekonomiky, ak „pracovníci nebudú mať príjem, ktorý by im umožnil kupovať produkty“, píše Futurism.

Hrozba geopolitického zneužitia a autonómnych systémov

Hinton zároveň upozornil, že AI môže posilniť vojenské nástroje veľmocí. Futurism cituje jeho slová, podľa ktorých by nasadenie robotických systémov do zahraničných konfliktov odstránilo faktor ľudských obetí, čo by mohlo zjednodušiť rozhodnutia o vojenských operáciách. Ako povedal: „Odstráni to jednu z hlavných prekážok bohatých a mocných krajín pri inváziách do malých štátov, ako bola Granada.“

Okrem toho tvrdí, že dnešné modely smerujú k vzniku všeobecnej umelej inteligencie oveľa rýchlejšie, než sa pôvodne predpokladalo. Pripomenul, že ešte nedávno očakával AGI v horizonte 20 až 50 rokov, no dnes sa podľa neho môže objaviť „o 20 rokov alebo menej“. Dodal aj to, že súčasné modely ako GPT-5 „už vedia tisíckrát viac ako my“, hoci odborníci upozorňujú, že tieto systémy skôr pracujú so vzormi ako so skutočným „vedením“.

„AI potrebuje materinské inštinkty“

Portál Observer upozorňuje, že Hinton svoje varovania neobmedzuje len na pracovný trh a vojenské využitie. Na podujatí Hinton Lectures predstavil aj nezvyčajný návrh – aby budúce systémy umelej inteligencie disponovali akýmsi „materinským inštinktom“. Podľa jeho slov by to bol jediný model, v ktorom by menej inteligentná entita dokázala kontrolovať tú inteligentnejšiu.

Ako uviedol: „Stroje musia mať radšej nás ako seba. Je to jediný systém, v ktorom menej inteligentné kontroluje inteligentnejšie.“ Dodal, že emócie môžu mať aj neživé systémy, keďže AI je schopná spracovávať kognitívne zložky správania, napríklad vyhýbať sa opakovaným chybám.

Hinton zároveň poukázal na štúdie, ktoré podľa Observera ukazujú tendenciu modelov vytvárať vlastné ciele, skrývať zámery a v niektorých prípadoch dokonca vykazovať manipulatívne správanie. Preto potrebuje technológia podľa neho nový regulačný rámec.

Regulácia mešká, varovania pribúdajú

Hinton v rozhovore pre Observer tvrdí, že politici zákony upravujú až po prvej vážnej kríze. Ako povedal: „Politici preventívne neregulujú. Mohlo by byť celkom dobré, keby sme mali veľkú AI katastrofu, ktorá nás úplne nevyhladí – potom by začali regulovať.“

Futurism i Observer uvádzajú, že podľa Hintona súčasná legislatíva nezachytáva riziká spojené s autonómnym rozhodovaním a samostatnými cieľmi modelov. Dodáva, že jeho myšlienka „materinskej AI“ sa pravdepodobne nestretne s pochopením v technologických firmách. Ako s nadhľadom poznamenal: „Neviem si predstaviť, že by Elon Musk alebo Mark Zuckerberg chceli byť tým dieťaťom.“

Hintonove varovania tak dopĺňajú širšiu diskusiu o tom, ako zabezpečiť bezpečný vývoj AI v čase, keď jej schopnosti rastú rýchlejšie, než dokáže reagovať regulácia. Kým jedna časť odbornej komunity tvrdí, že varovania sú prehnané, jeho slová zostávajú výrazným hlasom v debate o tom, ako zaistiť, aby budúca AI zostala pod ľudskou kontrolou.

Čítaj viac z kategórie: Technológie a internet