Umelá inteligencia: Anthropic otvoril diskusiu, ktorá sa týka každého človeka. AI mení doterajšie pravidlá hry

Umelá inteligencia musí mať hranice a musí ich určiť človek. Anthropic zverejnil jeden z najzaujímavejších textov o budúcnosti umelej inteligencie za posledné roky. Nie preto, že by priniesol šokujúce odhalenie, ale preto, že otvorene pomenoval niečo, o čom sa v technologickom svete už dlhšie hovorí len medzi riadkami: umelá inteligencia začína pomáhať vytvárať ďalšiu generáciu umelej inteligencie.

Podľa údajov firmy dnes Claude napísal viac ako 80 % kódu, ktorý sa dostáva do produkčného prostredia Anthropicu. Vývojári už nie sú primárne ľudia píšuci kód, ale ľudia, ktorí zadávajú ciele, kontrolujú výsledky a rozhodujú, čo má zmysel robiť.

Ak sú tieto údaje správne, nejde o kozmetickú zmenu. Ide o zásadný posun v tom, ako vznikajú moderné technológie.

Anthropic otvoril Pandorinu skrinku

Na texte Anthropicu môžeme vyzdvihnúť predovšetkým jeho úprimnosť. Firma neskrýva, že AI dramaticky zvyšuje produktivitu. Zamestnanci podľa interného prieskumu odhadujú, že dokážu vytvoriť niekoľkonásobne viac práce, ako by vytvorili bez pomoci modelov. Inžinieri v priemere odovzdávajú násobne viac kódu ako pred niekoľkými rokmi. Claude už dnes dokáže obratom riešiť problémy, ktoré by ľuďom zabrali celé dni práce.

To všetko sú dôvody na optimizmus.

Ak by sa podobný pokrok preniesol do medicíny, energetiky alebo vývoja liekov, mohli by sme získať nástroje, ktoré urýchlia riešenie problémov, s ktorými sa ľudstvo trápi desaťročia. Anthropic správne upozorňuje, že inteligentnejšie systémy by mohli pomôcť pri vedeckom výskume, klinických skúškach či navrhovaní nových technológií.

Práve preto by bolo chybou reagovať na tento vývoj iba strachom.

Zároveň je  dôležité nepodľahnúť ani opačnému extrému. Anthropic totiž naznačuje, že by bolo dobré mať možnosť vývoj najvýkonnejších systémov spomaliť alebo dočasne pozastaviť, ak by spoločnosť nestíhala držať krok s dôsledkami tejto technológie. Firma doslova uvádza, že „ak by bolo možné efektívne spomaliť vývoj tejto technológie, aby sme získali viac času na riešenie jej dôsledkov, pravdepodobne by to bolo dobré“.

To znie rozumne, lenže realita je oveľa komplikovanejšia.

Umelá inteligencia nie je ideálna a ani nikdy nebude

Najväčší problém celej myšlienky nie je technický, ale geopolitický. Ak by sa vývoj rozhodli spomaliť americké firmy, čo urobí Čína? Čo Rusko? Čo krajiny, ktoré nebudú ochotné podriadiť sa medzinárodným pravidlám?

Samotný Anthropic priznáva, že jednostranná pauza jednej firmy by v praxi len zmenila poradie lídrov. Nezastavila by vývoj ako taký.

A práve tu môžeme identifikovať najväčšiu slabinu celej úvahy.

História ukazuje, že technologické preteky sa veľmi zriedkavo zastavujú dobrovoľne. Jadrové technológie, raketový výskum či internet sa nešírili preto, že by všetci súhlasili s ich rozvojom. Šírili sa preto, že konkurencia si 0nedovolila zaostávať.

Ak by sa ukázalo, že umelá inteligencia predstavuje zásadnú ekonomickú alebo vojenskú výhodu, tlak na pokračovanie vývoja bude obrovský. Krajina, ktorá by sa rozhodla zastaviť, by mohla riskovať stratu technologickej prevahy. A tá by mohla mať rovnako vážne dôsledky ako sú samotné riziká AI.

To však neznamená, že diskusia o bezpečnosti je zbytočná. Práve naopak.

Umelá inteligencia: Takto jednoducho si vytvoríš AI agenta, ktorý ti ušetrí desiatky hodín práce

Umelá inteligencia ako nástroj

Anthropic správne upozorňuje, že čoraz viac práce vykonávajú systémy, ktorým ľudia nemusia úplne rozumieť. V texte zaznievajú aj zaujímavé postrehy zamestnancov. Jeden z nich opisuje pocit, že v dňoch, keď všetko funguje, má dojem, akoby na jeho práci už nezáležalo. Iný upozorňuje, že množstvo drobných interakcií medzi kolegami nahrádza komunikácia s AI.

To sú možno menej viditeľné, ale veľmi dôležité dôsledky.

Debata o umelej inteligencii sa totiž často redukuje na otázku, či nás AI nahradí. Možno však ešte dôležitejšia otázka je: čo sa stane s ľudskou spoluprácou, expertízou a rozhodovaním, ak bude väčšina práce delegovaná na stroje?

Anthropic si zaslúži uznanie za to, že túto debatu otvára skôr, ako bude neskoro. Zároveň je potrebné upozorniť na to, že predstava koordinovaného globálneho spomalenia vývoja zostáva skôr želaním ako realistickým plánom.

Čítaj viac z kategórie: Biznis a startupy