Civilizácia na hrane kolapsu: Expert na AI varuje, že umelá inteligencia má 99,9 % šancu vymazať ľudstvo

Roman Yampolskiy, počítačový vedec z Univerzity v Louisville, prichádza s mrazivou predpoveďou, podľa ktorej čelí naša civilizácia kvôli vývoju umelej inteligencie takmer istému vyhynutiu.

Tento odborník na kybernetickú bezpečnosť a bezpečnosť AI odhaduje pravdepodobnosť, že umelá inteligencia v nasledujúcom storočí vyhladí ľudstvo, na závratných 99,9 percenta. O týchto alarmujúcich tvrdeniach informoval web express.co, pričom Yampolskiy svoje názory prezentoval v programe podcastera Lexa Friedmana.

Varovania pred nekontrolovateľnou technológiou

Počas rozsiahleho dvojhodinového rozhovoru argumentoval tým, že ani jeden doteraz spustený systém AI sa neukázal ako bezpečný, a vyjadril pesimizmus ohľadom toho, či sa budúcim verziám podarí vyhnúť kritickým chybám.

Yampolskiy sa tak pridal k vybranej skupine priekopníckych vývojárov, ktorí bijú na poplach práve v čase súťaže o umelú inteligenciu prezidenta Donalda Trumpa. Už minulý rok publikoval knihu s názvom „AI: Unexplainable, Unpredictable, Uncontrollable“, ktorá poskytuje široký úvod do kľúčových problémov, ako je nepredvídateľnosť výsledkov AI či ťažkosti pri vysvetľovaní jej rozhodnutí.

Ako sám povedal: „Táto kniha prichádza k zložitejším otázkam vlastníctva a kontroly, pričom vykonáva hĺbkovú analýzu potenciálnych nebezpečenstiev a neúmyselných dôsledkov.“ Kniha sa následne zaoberá filozofickými a existenciálnymi úvahami, skúma otázky osobnosti AI, vedomia a rozdielu medzi ľudskou inteligenciou a umelou všeobecnou inteligenciou (AGI).

Rozdielne pohľady na riziko

Technologickí experti si všímajú, že práve pôvodní priekopníci v odbore, vrátane Yampolského, patria medzi tých, ktorí prinášajú najvážnejšie varovania o možnej devastácii a apokalyptických následkoch tohto pokroku. Nie všetci však zdieľajú jeho fatalistický pohľad a niektoré výskumy spochybňujú jeho predpoveď vyhynutia, pričom naznačujú výrazne nižšiu hrozbu.

Výskum realizovaný univerzitami v Oxforde a Bonne zistil na základe hodnotení od viac ako 2 700 výskumníkov AI, že existuje len 5-percentná pravdepodobnosť, že AI eliminuje ľudstvo. „Ľudia sa snažia hovoriť tak, akoby očakávanie rizika vyhynutia bolo menšinovým názorom, ale medzi odborníkmi na AI je to hlavný prúd,“ varuje Katja Grace, jedna z autoriek štúdie. Dodáva, že „nezhoda sa zdá byť v tom, či je riziko 1 % alebo 20 %.“

Skepticizmus technologických lídrov

Na druhej strane, viacerí poprední špecialisti na AI úplne odmietli tvrdenia o tom, že by AI spôsobila apokalyptickú situáciu. Patrí medzi nich spoluzakladateľ Google Brain Andrew Ng a priekopník AI Yann LeCun, ktorý dokonca obvinil technologických lídrov, ako je Sam Altman z OpenAI, že za svojou alarmistickou rétorikou o katastrofických výsledkoch AI skrývajú tajné plány.

Samotný Altman však vyslovil množstvo znepokojujúcich vyhlásení o svojom odvetví a varoval, že AI pravdepodobne zničí nespočetné množstvo pracovných miest, ktoré neoznačil za „skutočnú prácu“, čo vyvolalo ostrú kritiku.

Ak ľudstvo skončí, kto prevezme žezlo?

Možno sa ti zdá predstava, že nás technológia vymaže z povrchu zemského, pritiahnutá za vlasy, no ak by k tomu naozaj došlo (či už vinou AI alebo inej katastrofy), Zem nezostane prázdna. Kto by však prevzal vládu nad planétou po nás, ak by sme my ani naše príbuzné opice neprežili? 

Profesor Tim Coulson z Univerzity v Oxforde, ktorý sa dlhodobo venuje biológii a evolúcii, vo svojej knihe The Universal History of Us (Univerzálna história nás) upozorňuje, že svet po ľuďoch by mohol vyzerať úplne inak, informovali sme v minulosti. 

Chobotnice ako noví vládcovia

Profesor Coulson vysvetľuje evolúciu ako proces, pri ktorom sa organizmy postupne menia, aby sa lepšie prispôsobili prostrediu. Zdôrazňuje, že „vyhynutie je osud všetkých druhov, vrátane ľudí, hoci dúfajme, že náš zánik je ešte ďaleko v budúcnosti.“

Ak by sme však zmizli my aj naši najbližší príbuzní – ľudoopy, otvoril by sa priestor pre nové formy inteligencie. Hoci by si možno tipoval iné cicavce, Coulson varuje, že primáty sú príliš závislé od sociálnych väzieb a lovu, čo by im v drasticky zmenenom svete mohlo uškodiť.

Ako prekvapivú alternatívu preto navrhuje chobotnice. Tieto tvory sú mimoriadne inteligentné, flexibilné a dokážu riešiť zložité problémy. Coulson vysvetľuje: „Ich schopnosť riešiť zložité problémy, komunikovať navzájom pomocou farebných zábleskov a manipulovať s predmetmi naznačuje, že pri správnych podmienkach by mohli vyvinúť civilizáciu.“ Vďaka pokročilému nervovému systému by sa mohli stať „mozgom oceánov“.

Budúcnosť je stále otvorená

Chobotnice už dnes preukazujú zvedavosť a kreativitu, pričom profesor spomína, že „niektoré jedince dokonca uniknú zo svojich nádrží v noci a navštívia nádrže susedov, verte alebo nie.“

Je však predstava chobotníc budujúcich mestá reálna? Na otázku, či to nie je len sci-fi, Coulson odpovedá, že fantáziu nemožno úplne vylúčiť: „Vybudovali by rozsiahle podmorské mestá a vyšli na súš s dýchacími prístrojmi, aby ulovili jeleňa? Nevieme. Ale rozhodne to nemožno odmietnuť.“

Zároveň však v rozhovore pre The European pripomína, že evolúcia nemá pevný smer a predpovedať ju je zložité. Do hry vstupujú náhody, mutácie a neočakávané vyhynutia. Ako uzatvára: „Vzhľadom na výnimočnú inteligenciu, prispôsobivosť a široké spektrum stratégií prežitia by chobotnice nemuseli byť tým najneserióznejším tipom na víťaza v posthumánnom svete.“ 

Čítaj viac z kategórie: Zaujímavosti