Nastane prelom, ktorý ohrozí ľudstvo: Experti z OpenAI bili na poplach deň pred zvláštnym vyhadzovom riaditeľa

Sam Altman, generálny riaditeľ prelomovej firmy OpenAI, ktorá stojí za celosvetovo známou umelou inteligenciou ChatGPT, strávil štyri dni v exile. Cez týždeň prišlo jeho nečakané odvolanie a ešte prekvapivejší rýchly návrat. Na povrch však vyplávali nové informácie. Experti varovali, že AI ohrozí ľudstvo.

Zdroje prominentnej agentúry Reuters novinárov informujú, že predtým, ako Altmana odvolali, niekoľko výskumníkov odoslalo správnej rade OpenAI varovný list. Písali, že objav istého typu umelej inteligencie je až natoľko významný, že môže ohroziť ľudstvo. Vyplýva to z výpovedí dvoch anonymov oboznámených s celou záležitosťou.

Podľa správy malo ísť o jednu z kľúčových udalostí, ktoré predchádzali odvolaniu generálneho riaditeľa. Tou druhou bol práve algoritmus tohto typu AI. Ako vieme, nečakaný koniec Sama Altmana však spôsobil vo firme krízu.

Prešiel najprv do Microsoftu, najväčšieho partnera OpenAI, a následne sa vrátil na čelo firmy. Viac ako 700 zamestnancov firmy sa totiž vyhrážalo, že v solidarite s ním prejdú taktiež do Microsoftu.

Zistenia agentúry Reuters

Správna rada mala voči Altmanovi pred jeho odvolaním viacero výhrad. Obávala sa napríklad komercializácie vedeckých pokrokov bez dostatočného chápania toho, aké následky vlastne môžu mať vo svete. Kópiu listu sa však agentúre nepodarilo získať a jeho autori nereagovali na žiadosti o komentár.

Reuters sa teda pokúsila skontaktovať s predstaviteľmi spoločnosti OpenAI. Aj tí však odmietli situáciu komentovať. Následne firma svojím zamestnancom odoslala internú správu. V tej potvrdila existenciu istého projektu s označením Q* (slovne Q-Star, v preklade Q-Hviezda), zistila agentúra.

Zisti, či máš nárok až na 140 eur: FS predstavila návod na daňový bonus na dieťa, ktorý všetko vysvetlí

V správe sa taktiež potvrdila existencia varovného listu, ktorý obdržala správna rada.

Hovorca OpenAI uviedol, že správa od výkonnej riaditeľky Miry Murati upozorňovala zamestnancov na doterajšie mediálne správy. Správa však nekonštatovala to, nakoľko boli pravdivé a presné.

Čo je Q*? Projekt, ktorý siaha za hranice bezpečnosti a z ľudí robí irelevantné bytosti >>>

A ako teda AI ohrozí ľudstvo? Niektorí zamestnanci OpenAI sa podľa Reuters domnievajú, že tento projekt mohol dosiahnuť prielom v pátraní po takzvanej všeobecnej umelej inteligencii (AGI). Ide o nový druh AI, o ktorom už v septembri informoval Fontech vo svojich článkoch. Mohol by totiž skutočne zapríčiniť zbytočnosť ľudí na planéte.

AGI sú v stručnosti autonómne systémy presahujúce ľudí vo väčšine ekonomicky hodnotných úloh, vysvetľuje Reuters.

Známa kuriérska spoločnosť na Slovensku pozastavuje činnosť. Svojich kuriérov viní z krádeží

Nový model AI dokázal pomocou obrovských výpočtových zdrojov riešiť isté matematické problémy. Úspešný bol zatiaľ len na úrovni žiakov základnej školy, no stále ide len o začiatok. A to dávalo výskumníkom nádej na budúci úspech Q*, píše Reuters. Vyplýva to z vyjadrení anonyma, ktorý s agentúrou spolupracoval.

Reuters však priznáva, že sa jej nepodarilo nezávisle overiť schopnosti AGI, ktoré pri projekte Q* uvádzali výskumníci.

Hranica vývoja

Experti považujú matematiku za hranicu vývoja generálnej AI. Tá je v súčasnej podobe dobrá v písaní a preklade jazykov. Ovládanie matematických výpočtov však naznačuje väčšiu mieru logického premýšľania. A to už naozaj napodobňuje fungovanie ľudskej mysle.

Takáto AI by sa dala použiť napríklad na nový vedecký výskum, veria vedci. Na rozdiel od bežnej kalkulačky, ktorá vie vyriešiť obmedzený počet operácií, AGI dokáže zovšeobecňovať, učiť sa a chápať.

Varovanie

Vráťme sa teda k listu, ktorý obdržala správna rada. Výskumníci v ňom podľa zdrojov Reuters poukázali práve na tieto schopnosti AI. A tie sa rovnajú vyššiemu nebezpečenstvu. Konkrétne bezpečnostné obavy však v liste nešpecifikovali.

Diskutovalo sa o nebezpečenstve, ktoré môžu predstavovať vysoko inteligentné stroje. Napríklad ak by sa vzali na um zničiť život na planéte. A to môže byť jednou z odpovedí na otázky, či AI ohrozí ľudstvo.

Pavol Rusko je vinný: Súd vyriekol verdikt v rámci podvodu v Majáku nádeje

Výskumníci tiež spomínali prácu „AI vedeckého tímu“. Jeho existenciu potvrdzujú viaceré zdroje. Vznikol kombináciou tímov „Code Gen“ a „Math Gen“ a skúmal, ako by sa dalo optimalizovať existujúce modely AI pre lepšie logické myslenie a vedeckú prácu.

Čo sa stalo pred odvolaním Altmana?

Generálny riaditeľ OpenAI Sam Altman viedol úsilie urobiť z ChatGPT jednu z najrýchlejšie rastúcich softvérových aplikácií v histórii. Získal tak investície a výpočtové zdroje od Microsoftu, ktoré tímu môžu pomôcť priblížiť sa k objavu AGI.

Tento mesiac predstavil niekoľko nových nástrojov a pred týždňom na samite svetových lídrov v San Franciscu naznačil, že firma má ďalšie veľké pokroky už na dohľad.

„V histórii OpenAI som štyrikrát stál v miestnosti, keď sme si akosi z tvárí vyhŕňali závoje nevedomosti a hranicu objavov sme posúvali vpred. Naposledy sa to stalo len v posledných týždňoch. A dosiahnuť niečo také je profesionálnou cťou na celý váš život,“ povedal na samite APEC.

Hneď na druhý deň mu správna rada vypovedala dôveru.

Čítaj viac z kategórie: Technológie a internet