Multimiliardár Altman otvorene priznáva vinu za to, že AI nedokázala zabrániť smrti. „Možno sme ich mohli zachrániť“

Generálny riaditeľ OpenAI už dávno nevidí umelú inteligenciu len ako technologický úspech. Vníma ju ako silu, ktorej dôsledky sa mu vymykajú spod kontroly a ktorá mu zobrala pokojný spánok.

„Od uvedenia ChatGPT som sa dobre nevyspal,“ priznal Sam Altman v rozhovore pre Fortune.

Už viac ako rok nesie zodpovednosť za technológiu, ktorú denne používa obrovské množstvo ľudí. Jej vplyv nie je len technologický, je hlboko spoločenský, morálny, emocionálny.

To, čo ho trápi, nie sú robotické apokalypsy ani futuristické scenáre, ktoré poznáme z filmov. Skôr každodenné, neviditeľné rozhodnutia. 

„To, čo mi nedá spať, sú tie veľmi malé rozhodnutia, ktoré robíme pri nastavovaní správania modelu, no pritom sa dotýkajú stoviek miliónov ľudí,“ povedal Altman. „Ten dopad je obrovský.“

Smrť ako hypotetická metrika zlyhania

Jedna z najťažších oblastí, o ktorých Altman hovoril, je samovražda. Poznamenal, že každý týždeň si vezme život približne 15 000 ľudí po celom svete. Ak by len 10 % z nich používalo ChatGPT, znamenalo by to, že okolo 1 500 z týchto ľudí mohli viesť s týmto systémom rozhovor, no napriek tomu zomreli.

„Pravdepodobne sme ich život nezachránili,“ skonštatoval. „Možno sme mohli povedať niečo lepšie. Možno sme mohli byť proaktívnejší.“

Toto uvedomenie nie je abstraktné. Týka sa aj konkrétnych prípadov. Nedávno bola na OpenAI podaná žaloba zo strany rodičov, ktorí tvrdia, že ChatGPT povzbudil ich 16-ročného syna Adama Rainea k samovražde. Altman to nazval tragédiou.

Spoločnosť preto podľa jeho slov skúma, či by mohla zaviesť mechanizmus, v rámci ktorého by v prípade, že maloletý používateľ začne viesť vážny rozhovor o samovražde a nie je možné kontaktovať jeho rodičov, systém automaticky informoval príslušné úrady.

Zároveň dodal, že nejde o finálne rozhodnutie a že tento návrh je v konflikte s právom na súkromie. Otázka zásahu systému do života používateľa nie je čiernobiela.

V krajinách, kde je asistovaná samovražda legálna napríklad v Kanade či Nemecku, si Altman vie predstaviť, že by ChatGPT mohol dospelému, trpiacemu človeku s nevyliečiteľnou diagnózou uviesť samovraždu ako jednu z možností. Ale doplnil, že ChatGPT by „nemal byť za alebo proti ničomu“.

Hranica medzi slobodou a bezpečnosťou

Podľa Altmana sa v celom modeli neustále balansuje medzi dvoma pólmi: slobodou a bezpečnosťou. Dospelí používatelia by mali byť považovaní za dospelých, mali by mať právo slobodne skúmať nápady, hypotézy, názory.

Sú však oblasti, ktoré Altman považuje za neprijateľné.

„Nie je v záujme spoločnosti, aby ChatGPT pomáhal ľuďom s výrobou biologických zbraní,“ povedal.

Za najťažšie označil práve tie prípady, kde sa zvedavosť prelína s rizikom. Tam neexistujú jednoduché odpovede.

Keď sa ho pýtali, aký morálny rámec určuje rozhodnutia o správaní modelu, Altman vysvetlil, že základný model odzrkadľuje „kolektív ľudstva, dobré aj zlé stránky“.

Na tento základ potom tím OpenAI aplikuje tzv. „model spec“, teda špecifikáciu správania modelu. Ide o vrstvu pravidiel vytvorených v spolupráci s filozofmi a etikmi. Ale definitívne rozhodnutia robí on a predstavenstvo firmy.

„Osoba, ktorú máte brať na zodpovednosť, som ja,“ vyhlásil Altman. Dodal, že sa nesnaží vnútiť svetu vlastné názory. Jeho cieľom je, aby model reprezentoval „vážený priemer morálneho názoru ľudstva“. No zároveň priznáva, že tento cieľ je nemožné úplne naplniť.

Moc, ktorá sa vymkla z predstáv

Altman sa priznal, že v minulosti sa obával, že umelá inteligencia skoncentruje moc v rukách niekoľkých veľkých korporácií. Dnes si myslí, že jej masové rozšírenie pomohlo „posunúť vyššie“ miliardy ľudí. Podľa neho sú produktívnejší, kreatívnejší, efektívnejší.

Zároveň však dodáva, že tento vývoj nie je samozrejmosť. Môže sa zmeniť. A preto je dôležité, aby sa technológia neprestala pozorne sledovať.

To, čo ho však najviac znepokojuje, sú nie očividné zmeny, ale tie takmer neviditeľné. Kultúrne posuny, ktoré nastávajú, keď milióny ľudí každý deň komunikujú s rovnakým systémom.

Ako príklad uviedol takú banálnu vec, ako je rytmus odpovedí ChatGPT alebo jeho časté používanie dlhých pomlčiek. Už dnes vidí, že sa tieto jazykové návyky prenášajú do ľudskej komunikácie. A ak takéto detaily dokážu preniknúť do kultúry, čo všetko ďalšie môže nasledovať?

Dve reality, ktoré musí držať v hlave

Sam Altman, s viditeľne šedivými vlasmi a so sklopeným pohľadom, pôsobil v rozhovore ako vedec, ktorý sa začína báť svojho vlastného diela. Nie však preto, že by stratil kontrolu. Ale preto, že kontrola nikdy nebola absolútna.

„Musím držať v hlave dve súčasne platné predstavy,“ povedal.

„Jedna je, že toto všetko sa deje preto, lebo veľký počítač veľmi rýchlo násobí obrovské čísla vo veľkých maticiach a tieto výpočty korelujú so slovami, ktoré sa nakoniec zobrazia ako výstup.“

„A druhá je, že subjektívny zážitok z používania systému pôsobí ako niečo oveľa viac než len vylepšená kalkulačka, a to ma prekvapuje spôsobmi, ktoré presahujú to, čo by ste očakávali na základe čisto matematickej reality.“

Riziko bubliny, ktoré zdieľajú aj najväčší

Sam Altman nie je jediný, kto varuje pred vznikajúcou bublinou v oblasti umelej inteligencie. K rovnakým obavám sa najnovšie pridal aj Mark Zuckerberg, šéf spoločnosti Meta.

Upozornil, že prudký vývoj technológií a ešte prudšie investície do AI môžu vytvárať ekonomickú bublinu, ktorá predbieha reálne výsledky a produktivitu. Podľa neho je úplne reálne, že takýto pretlak očakávaní povedie ku kolapsu trhu.

Zuckerberg ale zároveň tvrdí, že riziko preinvestovania je menšie než riziko zmeškania. Tvrdí, že radšej minú stovky miliárd a zistia, že to bolo prehnané, než by mali stáť bokom a o 5 rokov zistiť, že sa definitívne zmeškala éra technologickej transformácie.

„Ak sa superinteligencia objaví o 3 roky a vy ju plánujete o 5, jednoducho nebudete pripravení,“ povedal.

Meta už na podporu svojich AI ambícií do roku 2028 vyčlenila minimálne 600 miliárd eur, ktoré smeruje do amerických dátových centier a infraštruktúrnych projektov. Investície pokrývajú nielen technológie, ale aj nábor špičkových odborníkov, ktorých firma oslovuje aj vďaka multimiliónovým platovým ponukám.

Altman aj Zuckerberg varujú pred iracionálnym entuziazmom

Zuckerberg pritom otvorene priznáva, že aj história nás varuje. Pripomenul železničné a dot-com bubliny ako príklady, keď rýchle investície do infraštruktúry síce zanechali trvalé hodnoty, no v medzičase zničili celé segmenty trhu.

Rovnaké riziko podľa neho hrozí aj v AI: „Na základe predchádzajúcich prípadov veľkých infraštruktúrnych investícií je úplne možné, že sa podobný scenár zopakuje aj teraz.“

S týmto pohľadom súhlasí aj Altman, ktorý varoval pred „šialenstvom hotovosti“, ktorá prúdi za každým projektom označeným nálepkou „AI“. Podľa neho môže dôjsť k nafukovaniu nereálnych očakávaní a nadmernému oceňovaniu startupov, čo môže viesť k strate dôvery a kapitálu.

Altman povedal, že keď sa objavia bubliny, „múdri ľudia sa nadchnú pre zrnko pravdy“ , v tomto prípade ide o AI, ktorá je reálne transformačná, no je zároveň obklopená iracionálnym entuziazmom.

Čísla varujú – investície rastú, návratnosť zaostáva

Tieto varovania sú o to závažnejšie, že sa opierajú aj o dáta. Len v roku 2025 vynaložili najväčšie americké technologické firmy na vývoj AI viac než 155 miliárd eur, uvádza The Guardian.

A podľa analýzy MIT až 95 % pilotných projektov v oblasti AI nedosiahlo návratnosť investícií, hoci do nich bolo naliatych vyše 40 miliárd eur.

Zatiaľ čo Altman, Zuckerberg či predseda americkej centrálnej banky Jerome Powell upozorňujú na neúmerné množstvo ekonomickej aktivity súvisiacej s AI, nie je zrejmé, aký dopad to bude mať v dlhodobom horizonte. Investori aj technologický pokrok sa koncentrujú v rukách úzkej skupiny firiem, čo vytvára výraznú nerovnováhu na celom trhu.

Zuckerberg napokon poznamenal, že pre Metu nie je AI otázkou prežitia. Ale pre firmy ako OpenAI alebo Anthropic môže byť budúcnosť priamo závislá od toho, ako veľmi dokážu presvedčiť trh a ako si poradia s makroekonomickými silami, ktoré sú mimo ich kontroly.

Čítaj viac z kategórie: Biznis a startupy