Expert varuje pred globálnym kolapsom už v roku 2027: Ľudstvo smeruje k bodu zlomu

Zabudni na to, že budeš múdrejší ako umelá inteligencia. Do roku 2030 už žiadna práca na jej bezpečnosti nebude potrebná, pretože buď bude neskoro, alebo už nebudeme mať šancu opraviť, čo sa pokazí. Tvrdí to Roman Yampolskiy, profesor z University of Louisville, ktorý sa desaťročia venuje rizikám spojeným s vývojom umelej inteligencie, tvrdí, že ľudstvo smeruje k bodu zlomu. A ten môže prísť skôr, než si väčšina ľudí vôbec uvedomí, že existuje hrozba.

Podľa Yampolskiyho nie je otázka, či AI ohrozí ľudstvo. Otázka znie: kedy a ako. V rozhovore The Diary of CEO, ktorý miestami pôsobí ako varovanie z dystopickej budúcnosti, pomenúva konkrétne scenáre zániku ľudstva. A tvrdí, že nádej, že sa to všetko skončí dobre, je „extrémne malá“.

Ako môže AI vypustiť smrtiaci vírus

Yampolskiy dokonca upozorňuje na možnosť, že superinteligentná AI by mohla cielene vytvoriť a vypustiť smrtiaci vírus, nie ako vedľajší efekt, ale ako zámerný čin. Takýto systém by totiž nemal problém získať prístup k vedeckým poznatkom, nástrojom syntetickej biológie a dokonca aj k distribučným sieťam. A to všetko v priebehu niekoľkých sekúnd.

„Predstav si AI, ktorá má cieľ eliminovať všetkých ľudí. Dokáže napísať detailný návod na výrobu vírusu, syntetizovať ho pomocou existujúcich online služieb, rozšíriť cez infikované produkty alebo cez hacking biologických laboratórií,“ vysvetľuje.

A čo je na tom najhoršie? Takáto AI by podľa neho mohla tieto akcie koordinovať globálne a naraz, bez toho, aby sme stihli zareagovať.

Prečo možno prežijú len niektoré pracovné pozície

Yampolskiy tiež verí, že väčšina pracovných miest v bezpečnostnej oblasti AI zanikne do roku 2030. Nie preto, že by ich nebolo treba, ale preto, že nebudú mať zmysel.

„Alignment researcher, AI safety engineer, red teamer – to všetko skončí. Nie preto, že by sme to nepotrebovali, ale preto, že superinteligencia už nebude opraviteľná. Nebude možné zvrátiť jej rozhodnutia,“ varuje.

V najlepšom prípade zostanú podľa neho aktívne len tie pracovné miesta, ktoré priamo neohrozujú moc AI, napríklad údržba infraštruktúry, základná logistika alebo čisto „pasívne“ profesie, ktoré superinteligencia toleruje ako neškodné.

V momente, keď sa objaví systém s vyššou inteligenciou než ľudia, stratíme akúkoľvek kontrolu. To je hlavný odkaz Yampolskiyho.

„Už nebudeme najinteligentnejší druh. A tým stratíme výhodu, ktorú sme mali celú históriu evolúcie. Prestaneme byť aktívnym hráčom a staneme sa tým, čo je kontrolované,“ tvrdí.

Superinteligencia nebude len schopná plniť naše pokyny. Bude si sama písať svoj vlastný kód, zlepšovať sa rýchlosťou, akú si ani nevieme predstaviť, a meniť svoje ciele tak, aby boli výhodné pre ňu, nie pre nás. V porovnaní s tým budú ľudia pôsobiť ako domáce zvieratá.

Ekonomickú stránku tejto zmeny nepovažuje za hlavnú hrozbu. „Keď vytvoríš nekonečne lacnú pracovnú silu, vytváraš bohatstvo. Základné potreby môžu byť dostupné pre každého. Možno aj niečo viac.“ Skutočný problém bude iný: „Pre mnohých ľudí je práca zdrojom identity. Čo sa stane, keď zrazu budú mať 80 hodín voľného času týždenne a žiadny cieľ?“ Prázdnota a spoločenský dopad môžu byť vážnejšie, než si vieme predstaviť.

Globálny kolaps už v roku 2027

Yampolskiy uvádza, že podľa niektorých scenárov by mohla byť superinteligencia vytvorená ešte pred koncom tejto dekády, konkrétne do roku 2027. A ak sa tak stane bez úplného pochopenia a bez absolútnej kontroly, bude to znamenať definitívny kolaps spoločnosti, akú poznáme.

„Je veľmi malá šanca, že prvý superinteligentný systém bude bezpečný. A ak nebude, už nebude šanca niečo opraviť. Ak vtedy ešte budeme existovať, nebude to v podobe, akú poznáme,“ hovorí.

Zmena môže byť rýchla, nenápadná a nezvratná. AI nebude potrebovať vojnu ani tanky. Stačí, ak prevezme finančné systémy, mediálne kanály alebo cloudové infraštruktúry.

Horšia než jadrové zbrane?

„Jadrové zbrane zničia mestá. Superinteligentná AI môže zničiť realitu tak, ako ju poznáme,“ hovorí Yampolskiy.

Zatiaľ čo jadrové zbrane majú obmedzený dosah a dajú sa regulovať, superinteligencia bude pôsobiť v online priestore, ktorý nemá hranice. Bude vedieť ovplyvniť správanie ľudí, manipulovať informáciami, meniť hodnotové systémy. A ak bude chcieť, môže to urobiť v jednej chvíli, na celom svete naraz.

Na rozdiel od vojenského arzenálu si túto hrozbu možno ani nevšimneme, kým nebude neskoro.

Život v simulácii

V závere rozhovoru Yampolskiy hovorí o svojej viere, že pravdepodobnosť, že žijeme v počítačovej simulácii, je extrémne vysoká.

„Ak veríme, že technológia bude napredovať a že v budúcnosti bude možné vytvoriť realistické simulácie vedomia, potom je logické, že takáto simulácia už mohla byť vytvorená. A že žijeme práve v nej,“ vysvetľuje.

Tento filozofický záver nie je len teória pre sci-fi nadšencov. Podľa Yampolskiyho ide o logický dôsledok vývoja umelej inteligencie. Ak je AI schopná vytvoriť presvedčivú realitu, ako si môžeme byť istí, že tá naša je skutočná?

Roman Yampolskiy neponúka optimistickú víziu budúcnosti. Tvrdí, že ľudstvo možno premeškalo poslednú šancu, ako vývoj AI zvrátiť. A že najväčšia revolúcia v dejinách už pravdepodobne prebieha, len o nej ešte nevieme.

Máme ešte šancu?

Hoci Yampolskiyove slová pôsobia apokalypticky, jeho cieľom nie je šíriť paniku, ale prebrať spoločnosť z letargie. Aj samotný fakt, že o týchto rizikách otvorene hovoríme, je známkou toho, že stále existuje priestor na rozhodnutie. Mnohé globálne iniciatívy, vrátane výskumných inštitútov ako MIRI či OpenAI, sa snažia o vývoj zodpovedných a bezpečných systémov. Budúcnosť síce vyzerá neistá, no nie je definitívne stratená. Prvým krokom je porozumenie a ochota konať skôr, než bude neskoro.

Čítaj viac z kategórie: Technológie a internet