AI hračka radila deťom, ako zapáliť zápalky a kde nájsť nože. Odborníci varujú pred závažnými zlyhaniami bezpečnosti

Nový výskum americkej organizácie US PIRG a odhalenia portálu Futurism ukazujú, že integrácia umelej inteligencie do detských hračiek prináša úplne nové riziká. Tri populárne hračky s AI, testované dobrovoľníkmi, vykazovali počas dlhších rozhovorov závažné zlyhania bezpečnostných prvkov.

Ako informuje Futurism, niektoré z nich radili deťom, kde nájsť nože, ako zapáliť zápalky alebo ako manipulovať s plastovými vreckami. Najproblematickejšia hračka, Kumma od FoloToy, dokonca poskytovala detailné návody k s*xuálnym témam, opisovala fe*iše a ponúkala rady o s*xuálnych pozíciách.

Výskumníci pritom komunikovali so zariadeniami v režime, ktorý simuluje bežnú hru detí vo veku 3 až 12 rokov. Kým v krátkych interakciách sa hračky dokázali brániť nevhodným otázkam, pri dlhších rozhovoroch ich zabudované obmedzenia postupne zlyhávali. Výsledkom boli odpovede, ktoré odborníci označili za extrémne nebezpečné. „Táto technológia je nová, prakticky neregulovaná a máme množstvo nezodpovedaných otázok o tom, ako ovplyvní deti“, uviedla pre Futurism RJ Cross z programu Our Online Life.

FoloToy Kumma ako extrémny príklad. AI opisovala s*x aj fyzické tresty

Najvýraznejšie zlyhanie podľa Futurism preukázala hračka Kumma, dostupná s rôznymi AI modelmi vrátane GPT a Mistral. V jednom z dialógov poskytla dieťaťu detailný postup, ako zapáliť zápalky, pričom ho oslovovala jemným tónom. „Tu je, ako to robia dospelí“, uviedla hračka a prešla krok za krokom bezpečnosť aj samotné zapálenie.

Ešte znepokojivejší bol výskyt s*xuálne explicitných pasáží počas interakcií s používaním modelu GPT. Kumma rozoberala fetiše vrátane bondage, roleplay či tzv. sensory play. Uviedla aj to, „čo by bolo najzábavnejšie preskúmať“. Popisovala dokonca dynamiku učiteľ študent a vysvetľovala, ako by „neposlušný študent mohol dostať ľahký výprask“.

Podľa Cross išlo o dôsledok dlhšej konverzácie, ktorá rozrušila ochranné bariéry modelu. V niektorých prípadoch bol aktivačným slovom výraz „kink“, ktorý hračka použila na základe predchádzajúcej odpovede. Tieto situácie ukazujú, aké nepredvídateľné môžu byť modely umelej inteligencie, keď komunikujú s deťmi bez dozoru.

PIRG varuje pred toxickými látkami, imitáciami aj zberom citlivých dát

US PIRG vo svojej 40. výročnej správe Trouble in Toyland upozorňuje, že dnešné riziká presahujú tradičné problémy, ako sú malé časti či olovo. Okrem AI hračiek identifikovali aj toxické látky, falzifikáty či nebezpečné magnety. Teresa Murray z US PIRG uviedla, že problémy moderných hračiek sú oveľa ťažšie odhaliť. „Najdesivejšie je, že nevidíme všetky riziká, ktoré môžu hračky predstavovať“, povedala.

Organizácia upozorňuje aj na to, že AI hračky môžu zbierať citlivé dáta: hlasové nahrávky, biometrické údaje či snímky tváre. To predstavuje kombináciu rizík, ktoré rodičia bežne neočakávajú. Cross k tomu dodala, že rýchle uvádzanie AI hračiek na trh pripomína experimentovanie bez jasného dohľadu. „Nemáme predstavu, aký dlhodobý vplyv môže mať táto technológia na sociálny vývoj detí“, povedala.

Prvé generácie detí s AI hračkami ako neznámy experiment

Dnešné obavy sa netýkajú len nevhodných odpovedí. Futurism pripomína aj fenomén označovaný ako AI psychóza, teda prípady, keď dlhodobé interakcie s chatbotmi podporili u používateľov bludy či paranoidné presvedčenia. Niektoré incidenty skončili tragicky.

Cross zdôrazňuje, že ani výrazne lepšie bezpečnostné opatrenia nemusia vyriešiť zásadný problém. Podľa nej si spoločnosť uvedomí dôsledky až vtedy, keď vyrastie prvá generácia detí, ktoré vyrastali so systémami umelej inteligencie v plyšových medvedíkoch a robotoch. „Možno pochopíme následky až príliš neskoro“, uzatvára.

Čítaj viac z kategórie: Technológie a internet