Expert z Googlu varuje pred fatálnou chybou pri používaní AI: 7 vecí, pre ktoré môžeš prísť o peniaze či kariéru

AI nástroje dnes píšu e-maily, sumarizujú dokumenty či navrhujú kód. Mnohí ľudia však pri ich používaní robia jednu zásadnú chybu. Zamieňajú si užitočný nástroj za bezpečný priestor.

„K AI chatbotom pristupujem ako k verejnej pohľadnici,“ cituje portál AOL Harsha Varshneya, ktorý pracuje v tímoch Googlu zameraných na ochranu súkromia a bezpečnosť AI v prehliadači Chrome. V praxi to znamená, že do konverzácie nezadáva nič, čo by nechcel ukázať cudzím ľuďom.

Varshney zároveň varuje pred ľahkovážnym narábaním s dátami. „My, používatelia, musíme aktívne chrániť svoje súkromné informácie, aby sa k nim nedostali škodlivé subjekty, ako kyberzločinci či dátoví brokeri,“ cituje portál AOL.

Čo by si nemal zdieľať s verejnými AI nástrojmi

Jeden detail dnes, druhý detail o týždeň, a zrazu vznikne presný profil človeka, projektu alebo firmy. Citlivé informácie v odpovediach aj vo vstupoch môžu spôsobiť právne škody aj stratu konkurenčnej výhody. Varshney preto pripomína, že do verejných chatbotov nepatrí rodné číslo ani číslo platobnej karty, adresa bydliska, zdravotné záznamy, heslá, skeny dokladov, ani interné firemné podklady.

Dôležité je tiež odlíšiť verejných chatbotov od firemných AI nástrojov. Verejné nástroje často pracujú so širšími podmienkami spracovania dát, zatiaľ čo firemné riešenia zvyčajne ponúkajú prísnejšie nastavenia, lepšiu kontrolu nad dátami a zmluvné garancie. Ani tie však neposkytujú absolútnu istotu.

Rozdiel medzi súkromným pracovným prostredím a otvorenou platformou zásadne mení mieru rizika. Kto tento rozdiel ignoruje, správa sa rovnako, ako keby riešil obchodné tajomstvá v hlučnej kaviarni. „O projektoch, na ktorých pracujem v spoločnosti Google, nediskutujem s verejnými chatbotmi. Namiesto toho používam firemný model, a to aj pri takých malých úlohách, ako je úprava pracovného e-mailu,“ hovorí Varshney.

Okrem toho odporúča pravidelne mazať históriu a používať dočasné režimy, keď sa pýta na citlivejšie témy. Opisuje pri tom vlastnú skúsenosť, keď ho firemný chatbot prekvapil znalosťou jeho presnej adresy.

Dôvod bol prozaický. Kedysi vložil do konverzácie e-mail s kontaktnými údajmi a nástroj si informáciu zapamätal. Pamäť zvyšuje komfort, no zároveň rozširuje stopu, ktorú po sebe používateľ zanecháva.

Nové bezpečnostné hrozby

Ďalšie pravidlo sa týka dôveryhodnosti platforiem. Varshney odporúča pracovať len s overenými nástrojmi a dôkladne si prejsť nastavenia súkromia. „Okrem produktov od Googlu rád používam ChatGPT od OpenAI a Claude od Anthropic,“ hovorí.

Bezpečnostné riziká sa pritom netýkajú len neuváženého zdieľania údajov. Výskumníci upozorňujú na sofistikované útoky známe ako prompt injection. Útočník vloží skrytý pokyn do dokumentu, webovej stránky alebo kalendárovej pozvánky.

Keď AI asistent spracuje kontext, prečíta aj tento pokyn a začne konať v prospech útočníka. SafeBreach detailne opisuje scenár, kde stačí nevinná otázka o programe dňa a model vykoná neželanú akciu. Britské Národné centrum pre kybernetickú bezpečnosť varuje, že tento typ útokov vyplýva zo samotnej podstaty jazykových modelov. AI totiž nerozlišuje medzi pokynom a dátami.

Aj preto Google reaguje posilnením ochrany priamo v prehliadači Chrome. Vyvíjajú sa nové mechanizmy v Chrome, ktoré cielia na nepriame prompt injection útoky proti AI agentom. Model, ktorý vykonáva akciu, dostane nad seba ďalší kontrolný model. Ten posúdi, či navrhovaná akcia naozaj slúži používateľovi, pričom kontrolný model nedostane do rúk nedôveryhodný webový obsah.

Záver je teda jasný. Pohodlie, ktoré AI ponúka, má svoju cenu. Funkcie zvyšujúce produktivitu zároveň zvyšujú aj možné riziká. Preto je potrebné pristupovať k zdieľaniu súkromných informácií s maximálnou opatrnosťou.

Čítaj viac z kategórie: Technológie a internet