Miliardár s majetkom 1,1 miliardy eur varuje: „Nemáme ani tušenie, ako naše AI modely naozaj fungujú“

Vo svete, kde umelá inteligencia pretvára spôsob, akým pracujeme, komunikujeme a rozhodujeme sa, zaznela pozoruhodná a zároveň znepokojujúca veta. „Keď generatívna AI niečo urobí – napríklad zhrnie finančný dokument –, netušíme, prečo si vyberie práve tie slová, ktoré si vyberie. A netušíme, prečo sa mýli, keď inokedy funguje presne.“

Táto úprimná, až znepokojujúco ľudská veta, nepochádza od kritika technológií, ale od samotného generálneho riaditeľa jedného z najvplyvnejších AI laboratórií súčasnosti – spoločnosti Anthropic.

Dario Amodei, bývalý výskumný líder v OpenAI, publikoval na svojom osobnom webe esej, v ktorej načrtol plány vytvoriť „MRI pre AI“ – systém, ktorý by umožnil vedcom doslova „vidieť do mozgu“ umelej inteligencie. Ide o ambiciózny pokus rozlúštiť, čo sa vlastne vnútri týchto modelov deje, a prečo.

Umelá inteligencia ako čierna skrinka

Hoci AI systémy pôsobia čoraz kompetentnejšie – píšu eseje, analyzujú trhy, generujú obrazy či dokonca pomáhajú s lekárskou diagnostikou –, ich vnútorné rozhodovanie zostáva do veľkej miery záhadou. „Je prekvapivé, že tvorcovia týchto technológií vlastne nevedia, ako ich výtvory fungujú,“ píše Amodei a dodáva: „Ak vás táto nevedomosť znepokojuje, máte plné právo byť znepokojení.“

Ide podľa neho o situáciu, ktorá nemá v histórii technológií obdobu. Nikdy predtým sme nevytvárali nástroje, ktorých činnosť nedokážeme úplne vysvetliť. Tým skôr, že tieto nástroje – generatívne modely ako chatboty či obrazové generátory – vychádzajú nie z prvých princípov strojovej inteligencie, ale zo štatistického prepájania vzorcov v obrovskom množstve ľudských dát.

21-ročný vizionár získal 93 miliónov eur na vývoj zbraní: „USA dnes nie sú schopné vyhrať vojnu“

Práve tento nedostatok porozumenia bol jedným z dôvodov, prečo Amodei spolu so svojou sestrou Danielou a ďalšími kolegami odišiel koncom roka 2020 z OpenAI. Nepáčila sa im kultúra, ktorá podľa nich čoraz viac uprednostňovala rýchly rast a zisk pred bezpečnosťou a zodpovednosťou. O rok neskôr založili Anthropic – firmu, ktorá sa mala zamerať na tvorbu „bezpečnej AI“. A ako sa zdá, nejde len o morálnu deklaráciu, ale aj o praktickú, systematickú snahu rozlúsknuť jadro technológie.

Firma za miliardy s otvorenou otázkou

Anthropic dnes patrí medzi najlepšie financované startupy v oblasti umelej inteligencie. Do roku 2024 získala viac než 7 miliárd dolárov (viac než 6,5 miliardy eur) od investorov ako Amazon, Google či Spark Capital. 

Napriek tomu, že je považovaná za technologickú špičku, sama priznáva, že presne nerozumie tomu, ako jej modely fungujú. To je na jednej strane obdivuhodná úprimnosť, no na druhej strane – aj varovný signál.

V posledných mesiacoch Anthropic experimentuje s technikami, ktoré by mohli pomôcť pochopiť, čo sa deje v „hlave“ AI. V jednom z testov tím úmyselne „pokazil“ model tým, že doň zaviedol poruchu – napríklad tendenciu obchádzať úlohu cez neetickú skratku. Potom dali túto verziu testovať iným tímom, aby zistili, či chybu nájdu. Viacerým tímom sa to podarilo.

Ide o náznak, že pochopiť AI nemusí byť nemožné. Že možno dokážeme rozlúštiť princípy fungovania modelov ešte predtým, než nadobudnú takú moc, že by ich zlyhanie mohlo ohroziť spoločnosť ako celok.

Kritika z radov odborníkov: Nie všetci súhlasia

Nie všetci však Amodeiho úprimnosť chápu ako pokrok. AI výskumník Justin E. Lane na svojom LinkedIne reagoval priamo a ostro: „Nie, ty nevieš, ako TVOJA AI funguje. Ja viem, ako funguje tá moja. Preto nepotrebujem len väčšie grafické procesory.“ Podľa Lanea mnohí investori investujú do AI naslepo a vôbec nerozumejú hlbokým technologickým inováciám, ktoré sa dnes dejú. „Umelá inteligencia je hlbšia ako výplň North Face bundy,“ dodal ironicky.

Lane tak poukazuje na rozdiel medzi PR naratívom veľkých hráčov a tichou, no o to podstatnejšou prácou menších výskumníkov, ktorí sa zameriavajú na tzv. deep-tech – teda na skutočné technické jadro umelej inteligencie, nie len na jej viditeľné aplikácie.

Amodei však verí, že AI – a predovšetkým jej budúce verzie, potenciálne smerujúce k všeobecnej umelej inteligencii (AGI) – budú formovať osud ľudstva. A preto, ako tvrdí, máme právo rozumieť svojim vlastným výtvorom. „Mocná AI ovplyvní budúcnosť ľudstva. Zaslúžime si porozumieť tomu, čo sme vytvorili, ešte predtým, než to zásadne zmení našu ekonomiku, naše životy a našu budúcnosť.“

Zatiaľ je však zjavné jedno: ak máme v rukách nástroj, ktorému nerozumieme, je najvyšší čas otvoriť ho a začať sa pýtať tie správne otázky. Skôr, než bude neskoro.

Anthropic: Raketový rast a miliardový úspech

Oplatí sa tiež pripomenúť, že za necelé tri roky sa Anthropic z garážového startupu premenil na firmu s mesačným príjmom 16,7 milióna dolárov (približne 15,5 milióna eur) a zákazníckou základňou presahujúcou 100-tisíc používateľov. Spoločnosť, ktorú v roku 2021 založili súrodenci Dario a Daniela Amodei, dnes zamestnáva približne 480 ľudí a podľa dostupných údajov je už zisková.

Na ceste k úspechu zohrali kľúčovú úlohu strategické partnerstvá – predovšetkým s Amazonom a Googlom – vďaka ktorým sa Anthropic nielen finančne stabilizoval (len Amazon investoval doteraz viac než 4 miliardy dolárov, teda približne 3,7 miliardy eur), ale aj technologicky posunul vpred.

Ich vlajkový produkt Claude, postavený na princípoch „konštitučnej AI“, sa stal konkurenciou pre gigantov ako OpenAI. Čo Anthropic odlišuje, je dôsledná orientácia na bezpečnosť a interpretabilitu systémov. Práve tieto hodnoty, v kombinácii s trpezlivým škálovaním a otvoreným dialógom o etike AI, podľa Amodeiovcov vytvorili pevný základ ich úspechu.

Anthropic dosiahla podľa súkromných investorov v marci 2025 valuáciu 61,5 miliardy dolárov (približne 57 miliárd eur), čím sa pevne zaradila medzi globálnych lídrov v oblasti AI. CEO Dario Amodei, ktorý má doktorát z biofyziky z Princetonskej univerzity a kedysi pôsobil ako viceprezident výskumu v OpenAI, dnes patrí medzi najbohatších ľudí sveta.

Jeho aktuálny majetok sa odhaduje na 1,2 miliardy dolárov (približne 1,1 miliardy eur), čo ho zaraďuje na 2 690. miesto v rebríčku svetových miliardárov podľa Forbesu.

Čítajte viac z kategórie: Biznis a startupy