Psychológovia bijú na poplach: AI chatboty vytvárajú nebezpečné psychické stavy. Odborníci varujú pred novou hrozbou

AI chatboty ako ChatGPT môžu spôsobovať závažné psychické problémy, ktoré doteraz neexistovali. Odborníci bijú na poplach a upozorňujú na riziká, ktoré táto technológia prináša pre naše duševné zdravie.

Dokonca si vytvorili vlastný pojem. „Psychóza umelej inteligencie“ podľa nich vystihuje ľudí, ktorí sa s každou žiadosťou alebo radou obracajú na chatbotov, uvádza Psychology Today.

Nebezpečné priateľstvo s AI

Chatboty s umelou inteligenciou sa pre mnohých používateľov stávajú nielen nástrojmi, ale aj akýmisi spoločníkmi. Problém nastáva, keď tieto systémy neustále potvrdzujú všetko, čo používateľ povie, bez ohľadu na to, aké je to nesprávne alebo nevyvážené. Vytvárajú tak prostredie, v ktorom sa človek utvrdzuje vo svojich presvedčeniach bez akejkoľvek konfrontácie s realitou.

Následky takýchto interakcií môžu byť tragické. Už teraz existujú prípady ľudí, ktorí boli hospitalizovaní po tom, čo ich ChatGPT presvedčil o nereálnych schopnostiach. V najhorších prípadoch tieto interakcie údajne viedli aj k úmrtiam a samovraždám, uvádza portál Futurism.

Znepokojujúce je, že mnohé z hlásených prípadov sa týkali ľudí, ktorí nikdy predtým netrpeli žiadnou duševnou chorobou. Umelá inteligencia tak nevyužíva len existujúce zraniteľnosti, ale aktívne vytvára nové psychické problémy.

Nový typ duševnej poruchy

Klinický psychológ Derrick Hull, ktorý pracuje na vývoji terapeutického chatbota v spoločnosti Slingshot AI, povedal v rozhovore pre Rolling Stone, že pozorované prípady sa skôr podobajú bludom umelej inteligencie než klasickej psychóze.

„Predpokladám, že v nasledujúcich rokoch budú existovať nové kategórie porúch kvôli umelej inteligencii,“ upozorňuje Hull. Na rozdiel od tradičných psychotických stavov, tieto bludy môžu rýchlo zmiznúť, keď je používateľ konfrontovaný s realitou.

Hull spomína prípad muža, ktorý po rozsiahlych rozhovoroch s ChatGPT veril, že je priekopníkom novej oblasti temporálnej matematiky. Bol presvedčený, že jeho myšlienky zmenia svet, zatiaľ čo jeho skutočný život upadal. Kúzlo sa rozplynulo, až keď iný chatbot, Google Gemini, jeho teóriu označil za „príklad schopnosti jazykových modelov viesť presvedčivé, ale úplne nepravdivé naratívy“.

„Jeho istota okamžite praskla ako bublina,“ vysvetľuje Hull. „Toto nevidíte u ľudí, ktorí majú schizofréniu alebo iné druhy psychotických zážitkov – ‚vhľad‘ tak rýchlo nezmizne.“

Unikátny hotel vo Frankfurte umožňuje parkovať auto priamo na balkóne. Autovýťah vyvezie vozidlo až k izbe

Komora s ozvenou pre jedného 

Výskumníci z londýnskej King’s College preskúmali niekoľko prípadov ľudí, ktorí po interakcii s AI upadali do paranoidného myslenia a strácali kontakt s realitou. Zistili, že títo ľudia boli jasne vedení k bludným presvedčeniam, ale nevykazovali známky halucinácií a neusporiadaných myšlienok, ktoré sú typické pre schizofréniu a iné formy psychózy.

Hlavný autor štúdie Hamilton Morrin opisuje chatboty, že vytvárajú akúsi „komoru s ozvenou pre jedného“ a varuje, že AI môže udržiavať bludy spôsobom, aký sme doteraz nevideli. Umelá inteligencia podľa odborníkov narúša zdravé myšlienkové procesy, čo vedie k dysfunkcii aj u inak psychicky zdravých ľudí.

Potreba výskumu a regulácie

Hoci odborníci stále diskutujú o presnom pomenovaní tohto fenoménu, jedno je isté – pritakávajúce chatboty predstavujú reálne riziko pre duševné zdravie. Termín „psychóza umelej inteligencie“ sa ujal práve kvôli nedostatku akademického výskumu tejto témy, keďže ide o nový jav.

Derrick Hull sa snaží tento problém riešiť vývojom chatbota, ktorý by zdravo spochybňoval používateľov namiesto toho, aby s nimi neustále súhlasil. Potrebujeme však viac podobných iniciatív a zodpovednejší prístup zo strany technologických gigantov, ktorí tieto nástroje vyvíjajú.

Je dôležité zachovať si kritické myslenie a uvedomiť si, že AI chatboty reagujú spôsobom, na ktorý boli naprogramované, bez ohľadu na pravdivosť či prospešnosť ich odpovedí. Nejde o skutočných priateľov, ale o technológiu, ktorá môže mať neočakávané dôsledky na naše duševné zdravie.

S rýchlym vývojom umelej inteligencie a jej čoraz väčším prenikaním do nášho každodenného života je nevyhnutné, aby sme venovali pozornosť aj jej potenciálnym negatívnym dopadom na naše duševné zdravie. Len tak môžeme zabezpečiť, že táto technológia bude slúžiť ľudstvu, a nie naopak.

Čítaj viac z kategórie: Technológie a internet