Veľké zmeny pre ChatGPT či Gemini. Nové prísne pravidlá zasiahnu aj schvaľovanie úverov. Čo to znamená pre Slovákov?

Od 2. augusta vstupuje do ďalšej fázy európsky AI Act, prvý komplexný zákon na svete, ktorý upravuje používanie umelej inteligencie (AI). Nové pravidlá sa síce na prvý pohľad týkajú najmä technologických firiem, no ich dôsledky pocítia aj bežní používatelia na Slovensku. Ak využívaš ChatGPT, Gemini, Copilot alebo inú umelú inteligenciu, niektoré veci sa postupne zmenia.

Cieľom Európskej únie nie je používanie AI obmedziť, ale zabezpečiť, aby bola bezpečnejšia, transparentnejšia a dôveryhodnejšia. Najväčšie povinnosti sa od augusta týkajú poskytovateľov veľkých AI modelov, ako sú OpenAI, Google, Anthropic či Meta. Tieto spoločnosti budú musieť lepšie dokumentovať fungovanie svojich systémov, posudzovať riziká a dodržiavať prísnejšie pravidlá transparentnosti.

Bude jasnejšie, kedy komunikuješ s AI

Jednou z hlavných zmien je väčší dôraz na transparentnosť. Ak budeš komunikovať s chatbotom alebo používať nástroje založené na umelej inteligencii, malo by byť zrejmé, že nejde o človeka. Cieľom je zabrániť situáciám, keď používatelia nevedia, že odpovede alebo odporúčania vytvára AI.

Podobné pravidlá sa týkajú aj obsahu vytvoreného umelou inteligenciou. Deepfake videá, realistické fotografie či upravené nahrávky budú musieť byť primerane označené, aby bolo možné rozpoznať, že nejde o autentický materiál. To má pomôcť najmä v boji proti dezinformáciám a podvodom.

Viac pravidiel pre firmy aj úrady

Najväčšie zmeny však nastanú v oblastiach, kde môže AI významne ovplyvniť život ľudí. Ak banka využíva umelú inteligenciu pri schvaľovaní úverov, zamestnávateľ pri výbere uchádzačov alebo nemocnica pri diagnostike pacientov, tieto systémy patria medzi tzv. vysoko rizikové.

Prevádzkovatelia budú musieť preukázať, že ich AI je bezpečná, spoľahlivá a podlieha ľudskému dohľadu. Nemalo by sa stať, že o človeku rozhodne výlučne algoritmus bez možnosti kontroly.

Umelá inteligencia je v bubline a hrozí jej prasknutie, myslia si odborníci. Situáciu analyzuje expert Tomáš Vranka

AI Act zakazuje využívanie AI v týchto prípadoch

AI Act zároveň zakazuje niektoré spôsoby používania umelej inteligencie. Medzi ne patria systémy, ktoré manipulujú správanie ľudí spôsobom, ktorý im môže uškodiť, alebo zneužívajú ich vek či zdravotný stav.

Zakázané je aj vytváranie systémov sociálneho skóre, ktoré by hodnotili občanov podľa ich správania a následne im prideľovali výhody alebo obmedzenia. Európska únia tým reaguje na obavy z masového sledovania a zneužitia umelej inteligencie.

zdroj: Magnific.com/KamranAydinov/AI

Znamená to koniec ChatGPT?

Nie. Bežní používatelia budú môcť ChatGPT a ďalšie AI nástroje používať rovnako ako doteraz. Nové pravidlá sa primárne zameriavajú na spoločnosti, ktoré tieto systémy vyvíjajú alebo ich nasadzujú pri rozhodovaní o ľuďoch.

Pre používateľov by to malo znamenať najmä viac informácií o tom, ako AI funguje, lepšie označovanie obsahu vytvoreného umelou inteligenciou a vyššiu ochranu v situáciách, keď AI rozhoduje o dôležitých otázkach, ako je prijatie do zamestnania, poskytnutie úveru alebo prístup k verejným službám.

Umelá inteligencia sa za posledné dva roky stala bežnou súčasťou práce, štúdia aj každodenného života. Milióny Európanov používajú AI na písanie textov, programovanie, preklady či vyhľadávanie informácií. S rastúcim využívaním však rastú aj riziká – od šírenia deepfake obsahu až po netransparentné algoritmy rozhodujúce o kariére alebo financiách.

Práve preto Európska únia prijala AI Act. Cieľom nie je brzdiť inovácie, ale nastaviť pravidlá, ktoré zvýšia dôveru v umelú inteligenciu a zároveň ochránia používateľov pred jej možným zneužitím. Väčšina ľudí si zmenu možno ani nevšimne, no pri rozhodnutiach, ktoré môžu ovplyvniť ich život, by mala mať väčšiu istotu, že za výsledkom nestojí nekontrolovaný algoritmus.

Čítaj viac z kategórie: Technológie a internet