„AI zničí svet do piatich rokov,“ tvrdí odborník. Opísal, ako by mala vyzerať apokalypsa

Eliezer Yudkowsky, výskumník známy svojim pesimizmom, sa opäť objavil s pochmúrnou predpoveďou týkajúcou sa budúcnosti ľudstva. V nedávnom rozhovore pre denník The Guardian vyjadril svoje obavy ohľadom rozvoja umelej inteligencie. Tvrdí, že ľudstvo má kvôli AI len veľmi malú šancu na prežitie.

Yudkowsky tiež naznačil, že časový rámec ničivých udalostí, ktoré ovplyvnia ľudstvo, sa zdá byť kratší, než sa doteraz predpokladalo. Apokalypsu vraj možno očakávať do piatich rokov namiesto pôvodne predpokladaného obdobia 50 rokov, pričom sú možné aj varianty od dvoch do desiatich rokov. Kontroverzný výskumník vlani na jar uverejnil v časopise Time článok, v ktorom odporučil zatvoriť počítačové farmy, kde sa pestujú a trénujú umelé inteligencie.

Výskumníkove obavy naznačujú hroziaci scenár katastrofických rozmerov. Tom Lamont z denníka The Guardian prirovnal Yudkowskeho predstavu k apokalyptickým víziám z filmov ako Terminátor alebo Matrix. Yudkowsky, zakladateľ Inštitútu pre výskum strojovej inteligencie v Kalifornii, zdôraznil hrozivú situáciu a upozornil, že všetky AI farmy treba zničiť.

Väčšina ľudí nedokáže ani len správne sedieť. Fyzioterapeutka ťa naučí nezničiť si telo

Výskumník hlása apokalypsu

Guardian sa v obsiahlom článku venuje rôznym pohľadom na nové technológie, najmä na umelú inteligenciu. Uvádza postrehy významných osobností, ako sú Brian Merchant a Molly Crabappleová. Yodkowskeho hlavnou obavou je otázka slepého prijímania technológií, najmä keď ich dôsledky môžu byť škodlivé, vrátane rozsiahleho prepúšťania zamestnancov.

Výroky pesimistického výskumníka však podľa mnohých znejú šialene, hlavne kvôli jeho kontroverznej minulosti. V podstate neustále navrhuje extrémne opatrenia, ako napríklad bombardovanie dátových centier, aby zmiernil nárast umelej inteligencie. Ak ti táto reakcia príde prehnaná, zatiaľ sa podľa vlastných slov aspoň zdržiava schvaľovania použitia jadrových zbraní na takéto účely a volí opatrnejšie formulované návrhy.

Yudkowského nedávne poznámky zdôrazňujú naliehavosť riešenia existenčných hrozieb, ktoré predstavujú rozvíjajúce sa technológie. Mnohí s ním súhlasia v tom, že musíme pristúpiť ku kritickému prehodnoteniu nášho prístupu k inováciám a ich potenciálnym dôsledkom.

Google si posvieti na AI

Internetový gigant Google sa pripája ku konzorciu firiem, ktoré vyvíjajú technológiu na overovanie digitálneho obsahu. Reaguje tým na rastúce obavy zo šírenia falzifikátov vytváraných s použitím umelej inteligencie. TASR o tom informuje na základe správ agentúr Reuters a DPA

Iniciatíva s názvom Koalícia pre pôvodnosť a autentickosť obsahu (Coalition for Content Provenance and Authenticity, C2PA) vyvíja napríklad systém značiek pre obrázky na internete s viditeľnými údajmi o tom, kto je ich autorom, aké nástroje boli použité pri ich úprave a či bol medzi nimi aj softvér na báze UI.

Spoločnosť Google vo štvrtok uviedla, že preskúma, ako by tieto overovacie znaky mohla v budúcnosti integrovať do svojich produktov a služieb. „Vo svete, kde sa dá všetok digitálny obsah sfalšovať, potrebujeme spôsob, ako dokázať, že niečo je skutočné,“ uviedla spoločnosť.

Koalícia C2PA verí, že sa jej technológia stane štandardom pre celé odvetvie. Bude tak k dispozícii jednotný spôsob overovania obsahu v rôznych službách a na rôznych webových stránkach. Medzi členov koalície patria spoločnosti Adobe, Intel, Microsoft alebo Sony.

Pred niekoľkými týždňami vyvolali v USA poplach klamlivé automatické hovory s reálne znejúcou imitáciou hlasu prezidenta Joea Bidena. Ten odradzoval od účasti na primárnych voľbách svojej Demokratickej strany v štáte New Hampshire. Incident podnietil obavy, že v nasledujúcich mesiacoch by UI mohla byť využitá na pokusy ovplyvniť výsledky novembrových prezidentských volieb prostredníctvom šírenia zavádzajúceho, avšak reálne vyznievajúceho obsahu.