Európska únia chce sprísniť používanie umelej inteligencie. Nastavila „červené čiary“

Systémy umelej inteligencie (AI) budú podliehať prísnejším požiadavkám, niektoré typy použití AI by mali byť dokonca zakázané. Vyplýva to z politickej dohody štátov Európskej únie (EÚ) na finálnom znení Aktu o umelej inteligencii (AIA).

V najbližších mesiacoch sa bude AIA ešte schvaľovať v Rade EÚ a Európskom parlamente. V pondelok o tom informoval odbor komunikácie Ministerstva investícií, regionálneho rozvoja a informatizácie (MIRRI) SR.

„Tento akt vytvorí v EÚ komplexný regulačný rámec vývoja, nasadenia a používania umelej inteligencie. Jeho hlavným cieľom je zabezpečiť, aby AI systémy boli dôveryhodné, etické a v súlade so základnými právami a hodnotami,“ uviedlo MIRRI.

AIA stanovuje záväzné pravidlá a požiadavky pre AI systémy, akými sú napríklad vysoko rizikové AI systémy používané v kritických infraštruktúrach, zdravotníctve, doprave a orgánmi činnými v trestnom konaní. Podľa MIRRI tieto druhy AI systémov budú podliehať prísnejším požiadavkám.

Nastavili aj červené čiary

„Niektoré typy použití AI, ako napríklad biometrická kategorizácia, vzdialená biometrická identifikácia v reálnom čase, využitie kamerových systémov pri rozširovaní databáz tvárí či rozpoznávanie emócií, budú dokonca úplne zakázané,“ priblížil rezort.

Zákazy by sa mali týkať aj praktík, ktoré môžu manipulovať s ľuďmi podprahovými technikami alebo zneužívať zraniteľné miesta určitých skupín, napríklad detí, s cieľom poškodiť ich fyzické alebo psychické zdravie.

„Okrem toho sa zavádzajú požiadavky na transparentnosť pre generatívne systémy umelej inteligencie, ktoré vytvárajú obsah alebo interagujú s ľuďmi, ako je napríklad ChatGPT. Tieto požiadavky majú zabezpečiť to, aby bolo jasné, že obsah bol vygenerovaný AI, a poskytnúť záruky proti generovaniu nelegálneho obsahu,“ vysvetlil štátny tajomník MIRRI Ivan Ivančin.

Schválenie AIA v Európskom parlamente sa podľa MIRRI očakáva ešte pred voľbami do europarlamentu. „Niektoré ustanovenia AIA chrániace pred zakázanými použitiami AI systémov vstúpia pritom do účinnosti už šesť mesiacov od jeho oficiálneho zverejnenia,“ uviedlo MIRRI s tým, že ostatné ustanovenia začnú platiť po 12 až 24 mesiacoch od zverejnenia.

Plné ruky práce

Európska agenda, ktorou sa zaoberajú členské krajiny EÚ (Rada EÚ) je v prvej polovici roka 2024 však limitovaná tým, že v júni sa budú konať voľby do Európskeho parlamentu (EP). V rozhovore pre TASR to uviedla vedúca Stáleho zastúpenia SR pri EÚ Petra Vargová.

Veľvyslankyňa pripomenula, že belgické predsedníctvo v Rade EÚ má najviac jeden týždeň na dohodu o legislatíve. Tieto spisy potom treba právne „doladiť“ a posunúť na rokovania s EP, aby mohli byť schválené do začiatku predvolebnej kampane.

„Tieto dni sú pre belgické predsedníctvo veľmi intenzívne ale aj pre členské štáty, ktoré sa musia k predbežným dohodám vyjadriť,“ opísala. Tiež upozornila, že pred eurovoľbami budú pokračovať debaty členských krajín o rozšírení EÚ a v júni sa počíta so schválením strategickej agendy pre obdobie po roku 2024. To by malo byť základom pre pracovný program budúcej EK.