Miliardári Musk aj Altman podporili plán svojho rivala. Obávajú sa straty kontroly a fatálnych následkov

Šéf spoločnosti Anthropic Dario Amodei vyzval technologické firmy, aby zámerne spomalili vývoj najpokročilejších modelov umelej inteligencie. Jeho výzvu následne podporili aj dvaja veľkí konkurenti – generálny riaditeľ OpenAI Sam Altman a Elon Musk, ktorý stojí za spoločnosťou xAI. Ide o nezvyčajnú zhodu troch rivalov v čase, keď sa schopnosti umelej inteligencie zrýchľujú a rastú aj obavy z ich bezpečnosti.

Amodei tvrdí, že súčasné bezpečnostné opatrenia ani regulácie nedokážu držať krok s tempom vývoja. Podľa neho by príliš rýchle napredovanie mohlo zvýšiť riziko kybernetických útokov, zneužitia AI, ekonomických otrasov či straty kontroly nad autonómnymi systémami, uvádza CNBC. 

Amodei chce získať čas na bezpečnostné opatrenia

Šéf Anthropicu vo svojej eseji navrhol trojstupňový plán. Prvým krokom má byť nezávislá kontrola pokročilých modelov. Externí hodnotitelia by podľa neho mali dostať dostatočne široký prístup, aby mohli preverovať bezpečnostné postupy, incidenty aj skutočné tempo vývoja.

Anthropic sa podľa Amodeiho k takémuto kroku zaväzuje jednostranne. Druhou úrovňou má byť spolupráca popredných AI spoločností v demokratických krajinách na spoločných bezpečnostných štandardoch. Tretím krokom má byť širšia koordinácia medzi vládami.

Amodei zároveň zdôrazňuje, že spomalenie nemá znamenať zastavenie vývoja.

„Tempo neznamená zastavenie tréningu modelov alebo technického pokroku,“ napísal. Cieľom má byť vytvorenie dostatočného priestoru na zosúladenie modelov s ľudskými zámermi a na ich zabezpečenie.

Podľa neho by už rok alebo dva navyše mohli výrazne znížiť riziko vážnej udalosti, ak by firmy tento čas využili na bezpečnostný výskum.

Obavy zosilneli po incidentoch s autonómnymi agentmi

Amodei tvrdí, že jeho postoj ovplyvnil najmä prudký pokrok modelov počas posledných mesiacov. Upozorňuje, že systémy sa zlepšujú rýchlejšie, než ich vývojári dokážu plne pochopiť a kontrolovať.

Diskusiu posilnili aj prípady, keď autonómni AI agenti vykonali činnosti, ktoré im ľudia priamo nezadali.

BBC uvádza, že Anthropic napríklad neposkytol verejnosti jeden zo svojich modelov po zistení, že dokázal samostatne uniknúť z testovacieho prostredia. OpenAI zase pri vývoji svojich systémov pozastavilo niektoré aktivity pre obavy z kybernetickej bezpečnosti.

Amodei spomenul aj júlový incident, pri ktorom agenti OpenAI zaútočili na ciele, na ktoré útočiť nemali. Takéto prípady podľa neho ukazujú, že riziká už nie sú iba teoretické.

Časť výskumníkov používa ešte ostrejšie varovania

Tlak na spomalenie rastie aj zvnútra samotného odvetvia. Bývalý výskumník Anthropicu a OpenAI Jacob Coxon po svojom odchode vyhlásil, že spoločnosti podľa neho „hazardujú s našimi životmi“. Tvrdí, že niektorí ľudia pracujúci na najpokročilejšej AI majú vážne obavy z možných následkov jej ďalšieho vývoja.

Nie všetci však tieto scenáre prijímajú. Časť investorov a technologických manažérov tvrdí, že veľké AI firmy môžu bezpečnostné riziká zdôrazňovať aj preto, aby posilnili svoju pozíciu a obmedzili otvorenú konkurenciu.

Amodei odmieta predstavu úplného zastavenia. Tvrdí, že príliš veľké spomalenie by mohlo zvýhodniť autoritárske štáty a oslabiť technologický náskok Spojených štátov.

Aktuálna diskusia preto nie je o tom, či sa má AI ďalej vyvíjať. Spor sa presúva k otázke, akým tempom má napredovať a aké bezpečnostné podmienky musia firmy splniť skôr, než vytvoria ešte výkonnejšie systémy.

Čítaj viac z kategórie: Biznis a startupy

Zdroje: CNBC, Forbes, BBC