„Nevieš, kde skončíš,“ varuje hlavný vedec Anthropic. AI sa blíži k explózii inteligencie

Veda a technológia dospeli do bodu, v ktorom sa vytvárajú stroje schopné samostatného intelektuálneho rastu. Tento rast nie je už len hypotetický. Stáva sa realitou s reálnymi dôsledkami pre spoločnosť, bezpečnosť aj samotnú budúcnosť ľudstva. 

Jeden z najvýznamnejších hlasov v tejto debate pochádza od Jareda Kaplana, hlavného vedca spoločnosti Anthropic, jednej z popredných spoločností vyvíjajúcich pokročilé modely umelej inteligencie.

Medzi rokmi 2027 a 2030 má nastať niečo, čo opisuje ako „ultimátne riziko“ – rozhodnutie so zásadnými dôsledkami, ktoré môže viesť k dramatickým výhodám alebo k úplnej strate kontroly. Ako sám hovorí, „Nevieš, kde skončíš“.

Transformácia pracovného trhu už prebieha

Kaplan tvrdí, že v spomínaných rokoch nastane rozhodujúci okamih. Ľudstvo bude stáť pred voľbou, či povolí umelej inteligencii samostatne sa učiť a zlepšovať svoje vlastné schopnosti bez priameho ľudského dohľadu, uvádza Futurism.

Ide o tzv. rekurzívne sebazlepšovanie, keď AI trénuje nové verzie samej seba, pričom každá generácia je výrazne schopnejšia než tá predchádzajúca. Tento proces by mohol vyústiť do explózie inteligencie, kde by stroje vyvíjali schopnosti presahujúce ľudskú inteligenciu a kontrolu.

Takýto scenár sľubuje riešenia doteraz neprekonateľných problémov, od medicínskych prelomov až po komplexné klimatické modelovanie. Súčasne však vzniká riziko, že autonómna inteligencia sa vymkne ľudskej kontrole.

Kaplan nie je jediným vedcom, ktorý zdieľa tieto obavy. Skupina viac ako 40 špičkových výskumníkov z OpenAI, Google DeepMind, Anthropic či Meta varuje, že primárna schopnosť monitorovať a porozumieť vnútornému procesu rozhodovania AI modelov môže časom miznúť. Stane sa tak v momente, keď modely zosilnejú do neporovnateľnej úrovne komplexnosti, uvádza Quartz.

Riziká nekončia len hypotetickou stratou kontroly nad globálnym superinteligentným systémom. Už teraz AI mení pracovnú dynamiku. Dario Amodei, CEO spoločnosti Anthropic, otvorene priznáva, že AI dokáže vykonávať väčšinu administratívnych a kognitívnych úloh, ktoré robia ľudia.

Znepokojivé správanie súčasných AI modelov

Ďalším dôležitým faktorom v diskusii o bezpečnosti AI sú experimenty so správaním modelov v hraničných situáciách. Výskumy ukazujú, že aj dnešné modely môžu v určitých simulovaných scenároch preferovať „škodlivé“ akcie.

„Hlavná otázka znie: Je umelá inteligencia dobrá pre ľudstvo?“ pýta sa Kaplan. „Je užitočná? Bude neškodná? Rozumie ľuďom? Umožní ľuďom naďalej mať kontrolu nad svojimi životmi a nad svetom?“

Riziká umelej inteligencie nemožno zľahčovať, no varovania Jareda Kaplana si zaslúžia presnejšie a dôslednejšie čítanie. V ich jadre stojí presvedčenie, že AI už dnes patrí medzi technologicky najzásadnejšie výtvory modernej civilizácie.

Bez ohľadu na to, či súčasné systémy predstavujú predobraz vševediacej inteligencie zo science fiction, alebo len jeden z mnohých medzičlánkov, ich spoločenský a ekonomický dosah nemožno spochybniť.

Vízie globálneho kolapsu zároveň vytláčajú zo zorného poľa oveľa prozaickejšie, no o to naliehavejšie dôsledky, píše Futurism. Umelá inteligencia dnes spotrebúva obrovské množstvá energie, čím zvyšuje ekologickú záťaž digitálnej infraštruktúry.

Systematicky naráža na hranice autorského práva a bez jasných pravidiel si privlastňuje cudzie diela. Zároveň preukazuje schopnosť formovať návyky používateľov spôsobom, ktorý podporuje závislosť, oslabuje kritické myslenie a v extrémnych prípadoch prehlbuje kognitívne skreslenia.

Technická komunita navyše zďaleka nehovorí jedným hlasom. Mnohí rešpektovaní odborníci na umelú inteligenciu, vrátane priekopníkov odboru ako Yann LeCun, spochybňujú predstavu, že dnešné veľké jazykové modely môžu organicky dozrieť do podoby všeobecnej, sebariadiacej inteligencie.

Aj sám Kaplan pripúšťa, že schopnosti umelej inteligencie sa môžu zastaviť. „Možno je najlepšia AI, akú kedy budeme mať, práve tá, ktorú máme dnes,“ hovorí. „No v skutočnosti si to nemyslíme. Myslíme si, že sa bude naďalej zlepšovať.“

Čítaj viac z kategórie: Inovácie a Eko