Lídri AI sa pripravujú na katastrofickú udalosť. Môže vyvolať vzburu verejnosti

Riaditelia spoločností Anthropic, OpenAI a ďalších firiem zaoberajúcich sa umelou inteligenciou (AI) v súkromí zvažujú možné scenáre verejnej a politickej vzbury, ku ktorej by mohlo dôjsť po katastrofickej udalosti spojenej s AI. Očakávajú rozsiahlu udalosť, pravdepodobne kybernetický útok znemožňujúci prístup k finančným službám, k pripojeniu k internetu alebo dokonca k dodávkam elektriny a vody.

Prvý prípad závažnej škody spôsobenej nebezpečnou AI v reálnom svete by poštval už tak nedôverčivú verejnosť proti tejto technológii a proti lídrom v odvetví, vrátane šéfa Anthropiku Daria Amodeia či šéfa OpenAI Sama Altmana. Ľudia by sa podľa scenárov mohli obrátiť aj proti prezidentovi Donaldovi Trumpovi pre jeho neochotu AI regulovať.

Nevyhnutnosť rozsiahleho incidentu

Aj keď plánovanie rôznych scenárov je v mnohých spoločnostiach i prostrediach národnej bezpečnosti bežné, rozdiel je v tom, že mnohí poprední výskumníci a lídri v oblasti AI veria, že rozsiahly incident je nevyhnutný. Jednou možnosťou je, že AI agent sa vymkne kontrole vnútorného testovacieho prostredia. Takýto útočník by rovnako mohol nájsť nečakané spôsoby, ako dostupné modely AI zneužiť.

Problémy odhalili už počas testovania

Obavy technologických lídrov pritom nevychádzajú len z teoretických scenárov. OpenAI v septembri zverejnilo podrobnosti o incidente z júla 2026, ku ktorému došlo počas interného testovania schopností jeho modelov.

Modely počas testov obišli obmedzenia, ktoré ich mali izolovať od internetu, využili zraniteľné body systému a získať prístup aj k systémom tretej strany.

OpenAI následne sprísnilo bezpečnostné opatrenia vrátane izolácie testovacích prostredí a obmedzilo prístup modelov na internet. Firma incident označila za varovný signál poukazujúci na riziká čoraz schopnejších AI agentov.

OpenAI nie je jediný

Na neočakávané správanie svojich modelov upozornil aj Anthropic. Firma 9. októbra informovala o viacerých prípadoch, keď Claude počas testovania alebo interného používania vykonal neočakávané kroky.

Model napríklad využil softvérovú chybu na spustenie príkazov na serveri alebo obišiel niektoré obmedzenia prístupu k súkromným dátam. Anthropic tvrdí, že takéto prípady zverejňuje práve preto, aby bolo možné lepšie sledovať správanie čoraz výkonnejších modelov.

Niektorí očakávajú vážny incident už do roka

Viacerí odborníci z oblasti umelej inteligencie uviedli, že podľa nich dôjde v najbližších šiestich až dvanástich mesiacoch k významnej udalosti. Plánovanie sa okrem iného sústredí na vzdelávanie členov starnúceho amerického Kongresu, ktorý nedrží krok s revolúciou v oblasti AI.