Amazon ukázal viac ako chcel: Zamestnanci prezradili, ako umelo nafukujú výkazy využívania umelej inteligencie

Spoločnosť Amazon čelí interným problémom spojeným so zavádzaním umelej inteligencie. Podľa viacerých médií zamestnanci firmy využívajú interný AI nástroj MeshClaw aj na vytváranie zbytočných úloh len preto, aby zvýšili štatistiky používania umelej inteligencie. Firma totiž dlhodobo tlačí na širšie využívanie AI medzi vývojármi a internými tímami.

Informácie priniesol denník Financial Times a následne ich rozšírili ďalšie technologické médiá. Zamestnanci upozorňujú nielen na tlak zo strany manažmentu, ale aj na bezpečnostné riziká a rastúci chaos v interných systémoch Amazonu, uvádza Times of India. 

Amazon vytvára tlak na zamestnancov

Amazon v posledných mesiacoch rozšíril používanie interného systému MeshClaw. Je to nástroj, ktorý umožňuje vytvárať AI agentov schopných pracovať s firemným softvérom. Tieto nástroje dokážu automatizovať nasadzovanie kódu, spracovanie e-mailov, komunikáciu cez Slack či ďalšie administratívne úlohy.

Podľa zamestnancov však firma začala detailne sledovať takzvanú spotrebu tokenov. Tokeny predstavujú množstvo dát spracovaných systémami umelej inteligencie. Amazon zároveň nastavil interný cieľ, aby viac ako 80 % vývojárov používalo AI nástroje na týždennej báze. 

Niektorí pracovníci preto podľa Financial Times začali vytvárať nepotrebné AI operácie len preto, aby zvýšili svoje interné štatistiky. Jeden zo zamestnancov uviedol, že v spoločnosti vznikol „obrovský tlak používať tieto nástroje“. Ďalší pracovník tvrdí, že sledovanie využívania vytvára „zvrátené motivácie“ a podporuje súťaživosť medzi tímami.

Amazon oficiálne uvádza, že štatistiky tokenov neslúžia na hodnotenie výkonu zamestnancov. Viacerí pracovníci však tvrdia, že manažéri tieto údaje napriek tomu sledujú. Firma podľa dostupných informácií neskôr obmedzila prístup k tímovým štatistikám a údaje sú dnes dostupné len jednotlivcom a ich priamym nadriadeným, uvádza Finsider. 

AI zvyšuje chaos aj bezpečnostné riziká

Interné problémy Amazonu sa netýkajú len sledovania používania AI. Business Insider upozornil aj na rastúci problém duplicitných nástrojov a nekontrolovaného šírenia interných AI systémov.

Podľa interného dokumentu, ktorý získal portál, generatívna umelá inteligencia výrazne znižuje náklady na tvorbu nových aplikácií. Tímy preto vytvárajú vlastné nástroje rýchlejšie ako v minulosti. Výsledkom je rastúce množstvo podobných systémov, duplicita dát a slabšia kontrola nad tým, kde sa citlivé informácie nachádzajú.

Dokument označuje situáciu za nekontrolované rozrastanie AI riešení vo firme. Amazon podľa neho čelí podobnému problému, aký kedysi priniesol nekontrolovaný rast cloudových služieb alebo SaaS aplikácií.

Trumpov tvrdý odkaz Moskve: Rusko nedostane celý Donbas, koniec vojny sa napriek tomu blíži

Zamestnanci zároveň upozorňujú na bezpečnostné riziká samotného MeshClawu. Nástroj totiž dokáže konať v mene používateľa a vykonávať úlohy naprieč viacerými systémami. Niektorí pracovníci sa obávajú, že AI agent môže omylom vykonať neželanú akciu alebo pracovať s dátami, ku ktorým by nemal mať prístup.

Čítaj viac z kategórie: Zo sveta