AI takmer rozpútala svetovú vojnu. USA zvažovali útok na svojho rivala pre mylnú informáciu

Americká armáda bola na jar 2026 blízko k operácii proti čínskej lodi na Blízkom východe. Dôvodom bola spravodajská správa vytvorená pomocou umelej inteligencie, ktorá nesprávne identifikovala náklad plavidla.

Podľa zdrojov CNN už boli vo vzduchu vojenské lietadlá a príslušníci ozbrojených síl sa pripravovali na možné nalodenie. Operáciu zastavili až po dodatočnej kontrole podkladov.

Umelá inteligencia označila náklad čínskej lode za súčasť jadrového programu

Incident sa odohral počas vojny s Iránom, keď americkou armádou začala kolovať spravodajská správa o čínskej lodi pohybujúcej sa na Blízkom východe.

Dokument tvrdil, že plavidlo preváža komponenty spojené s jadrovým zbrojným programom. Informácia vyvolala rýchlu reakciu amerických ozbrojených síl.

CNN sa odvoláva na štyri zdroje oboznámené s prípadom. Podľa dvoch z nich sa ozbrojení príslušníci pripravovali na nalodenie na čínsku loď. Vojenské lietadlá už podľa ďalších zdrojov vzlietli.

Krátko pred uskutočnením operácie však predstavitelia podrobnejšie preverili samotnú spravodajskú správu. Zistili, že analytik špeciálnych operácií pri jej príprave použil AI chatbota.

Práve nástroj umelej inteligencie nesprávne vyhodnotil informácie o náklade plavidla. Jeden zo zdrojov CNN následne označil výslednú správu za „úplne falošnú“ a uviedol, že incident „takmer začal vojnu“.

Čo čínska loď v skutočnosti prevážala, sa CNN nepodarilo zistiť.

Chatbot spojil verejné a tajné informácie

Prípad ukazuje aj spôsob, akým bola chybná správa vytvorená. Analytik sa podľa CNN obrátil na AI chatbota s otázkami týkajúcimi sa údajov o náklade lode. Pôvodné informácie pochádzali od amerického Veliteľstva špeciálnych operácií pre oblasť Tichomoria.

AI následne spojila verejne dostupné zdroje s utajovanými spravodajskými informáciami uloženými vo vládnych systémoch. Z tejto kombinácie vytvorila chybný záver o materiáloch na lodi.

Analytik potom použil umelú inteligenciu opäť. Zistenia prostredníctvom nej spracoval do štandardnej podoby spravodajskej správy a dokument poslal ďalej.

Práve formát dokumentu mohol byť dôležitý. Podľa CNN išlo o typ správy, ktorý vojenskí predstavitelia bežne používajú pri rozhodovaní.

Nie je známe, aký konkrétny chatbot analytik využil. Dostupné informácie nepotvrdzujú, či išlo o komerčne dostupný systém alebo nástroj vyvinutý pre americkú vládu. Pentagon ani príslušné veliteľstvo na otázky CNN k incidentu nereagovali.

Americká armáda rozširuje používanie umelej inteligencie

Incident prichádza v období, keď americké ozbrojené sily výrazne rozširujú využitie umelej inteligencie. AI sa má používať pri analýze veľkého množstva spravodajských dát, logistike, rozpočtoch aj pri rozhodovaní o vojenských cieľoch, uvádza Independent. 

V januári predstavil rezort obrany stratégiu zrýchleného zavádzania AI. Dokument počíta s rozšírením technológie naprieč rezortom a so sprístupňovaním pokročilých modelov miliónom civilných a vojenských zamestnancov.

Podľa zdrojov CNN však jednotlivé časti americkej vlády používajú rozdielne systémy, pravidlá a bezpečnostné štandardy. Neexistuje jeden spoločný postup, podľa ktorého by sa všetky informácie vytvorené umelou inteligenciou overovali.