Startupy predstierajú využívanie umelej inteligencie, no reálne zamestnávajú tisíce nízkoplatených pracovníkov

V poslednej dobe si už aj najväčší laici zvyknú otvárať skôr Chat GPT než tradičný Google. Umelá inteligencia presiakla do mnohých ľudských činností. Ak napríklad potrebuješ kontaktovať zákaznícke centrum akejkoľvek firmy, pravdepodobne automaticky počítaš s tým, že ti odpíše robot. Lenže nie všetko, čo sa na prvý pohľad tvári ako futuristická umelá inteligencia, ňou aj v skutočnosti je. 

Existuje jav, ktorý vedci z oblasti vývoja používateľských rozhraní nazývajú Wizard of Oz experiment. Dnes sa v biznisovom svete stáva čoraz bežnejšou a zároveň aj kontroverznejšou praxou.

Wizard of Oz experiment je výskumná metóda, kde účastníci veria, že komunikujú s plne automatizovaným systémom. V skutočnosti však odpovede generuje človek. Názov pochádza z fantasy príbehu, kde sa čarodejník z krajiny Oz ukáže byť obyčajným mužom ukrytým za závesom, ktorý manipuluje so skutočnosťou. 

O čo tomuto čarodejníkovi ide?

Táto technika sa pôvodne používala na testovanie prototypov, aby sa zistilo, ako by ľudia reagovali na rozhrania alebo funkcie, ktoré ešte len vznikajú. V posledných rokoch sa však začala využívať aj v ostrej prevádzke startupov, ktoré sa prezentujú ako AI firmy. Prečo? Pretože vytvoriť si svoj vlastný AI engine je zložitejšie než zaplatiť niekoho, kto sa naň bude hrať. 

Namiesto pokročilých algoritmov služby týchto „AI systémov“ zabezpečujú často desiatky či stovky ľudských pracovníkov – napríklad v Indii alebo na Filipínach. 

Keď sa človek hrá na AI robota

Niektorí ľudia si povedia, že hoci je „hranie sa na robota“ celkom zvláštne, v podstate ide o veľmi neškodný klam. No keď je táto simulácia utajovaná pred verejnosťou, zákazníkmi či investormi, stáva sa z nej etický problém.

Na tieto prípady ako prvé upozornili významné médiá ako Wall Street Journal, Bloomberg a The Guardian. V sérii odhalení poukázali na to, že viacero známych technologických firiem využívalo ľudskú prácu na pozadí služieb, ktoré verejnosti prezentovali ako plne automatizované.

„Aj Mohyla Štefánika je temný turizmus“: Spisovateľ odhalil, prečo nás fascinujú miesta tragédií

Napríklad aplikácia Expensify, ktorá slúži na správu výdavkov, sa roky chválila tým, že jej funkcia SmartScan dokáže automaticky rozpoznať údaje z účteniek. The Guardian však odhalil zvláštnu realitu. Snímky účteniek boli často anonymne nahrávané na platformu Amazon Mechanical Turk, kde ich ručne prepisovali nízkoplatení pracovníci – tzv. „turkeri“.

Nezautomatizovali ani e-maily

Ďalej startupy X.ai a Clara Labs mali ponúkať revolučných asistentov na plánovanie stretnutí. V skutočnosti to však boli ľudia, ktorí 12 hodín denne predstierali, že sú AI chatbotmi. Ich úlohou bolo odpovedať na e-maily a dohadovať termíny tak, aby mal používateľ dojem, že komunikuje so strojom.

Edison Software vytváral funkciu „smart reply“ pre Gmail. Problém? Na tréning AI funkcie boli použité reálne e-maily používateľov, ktoré prechádzali ľudskí analytici. Všetko bez jasného upozornenia v podmienkach používania. Ako uvádza portál The Verge, nejde ani o veľmi výnimočnú prax. 

Niektoré firmy, ako napríklad Scale AI sa síce netvária, že ich AI funguje úplne autonómne, no mlčia o tom, že ich technológie stoja na tisícoch tzv. „ghost workers“ – pracovníkov, ktorí označujú objekty na fotkách, triedia dáta a upravujú chyby.

Bez nich by AI v samoriadiacich autách alebo vyhľadávačoch často nefungovala vôbec. Žaloba podaná v decembri 2024 na súde v Kalifornii obviňuje Scale AI zo systematického vykorisťovania pracovníkov, ktorí manuálne označujú a triedia dáta pre tréning AI.

Prečo to firmy robia? 

Zatiaľ čo startupy a technologickí giganti radi prezentujú svoje AI riešenia ako futuristickú revolúciu, realita je často omnoho menej technologická a oveľa viac… manuálna. Ako to brilantne vystihla novinárka Ellen Huet z Bloomberg Technology: „Firmy to často maskujú tým, že zamestnávajú ľudí, ktorí sa tvária ako roboti, ktorí sa tvária ako ľudia.“

Vo svojom článku z roku 2018 popisuje, ako za množstvom zdanlivo sofistikovaných AI služieb, od virtuálnych asistentov ako Magic či Facebook M, až po e-mailových plánovačov ako X.ai alebo Clara často stojí množstvo ľudských pracovníkov, ktorí ručne riešia požiadavky používateľov.

„Cieľom väčšiny týchto biznisov je, aby potrebovali čo najmenej ľudí. Ľudia sú drahí, nie sú škálovateľní a potrebujú zdravotné poistenie. No zatiaľ sú tieto firmy vo veľkej miere poháňané práve ľuďmi, ktorí klikajú spoza opony a vytvárajú ilúziu mágie,“ dodáva Huet.

Čítajte viac z kategórie: Zaujímavosti