Európska únia by mohla mať prvého AI poslanca: AI minister v Albánsku a chatbot v Kolumbii už existujú

Európska únia sa rada prezentuje ako globálny regulátor technológií, no zároveň pôsobí ako miesto, kde sa politické inovácie rodia pomaly. Myšlienka o prvom AI poslancovi Európskeho parlamentu preto nie je len satirou. V skutočnosti odráža širšiu otázku: ak sa umelá inteligencia už objavuje vo verejnej správe a dokonca aj v politických kampaniach mimo EÚ, ako dlho potrvá, kým sa podobná myšlienka začne brať vážne aj v Bruseli?

Predstava AI poslanca vychádza z reálnych príkladov. V Albánsku už pôsobil AI minister pre verejné obstarávanie a v Kolumbii sa do volieb zapojil chatbot Gaitana. Hoci tieto iniciatívy vyvolávajú skôr mediálnu pozornosť než systémovú zmenu, ukazujú, že hranica medzi technologickým experimentom a politickou realitou sa posúva. V tomto kontexte sa nápad AI europoslanca nezdá úplne absurdný – najmä ak vezmeme do úvahy, že Európsky parlament už dnes umožňuje široké spektrum symbolických a netradičných politických prejavov, píše Politico. 

Európska únia implementuje AI Act

Satirický nápad Paula Dallisona z Politica je potrebné analyzovať a poukázať na možné výhody digitálneho zákonodarcu. Sú nimi nulové náklady na cestovné výdavky, garantovaná účasť na hlasovaniach, žiadne hotely v Štrasburgu a možnosť „stíšiť“ politických oponentov. Za vtipom sa však skrýva vážna téma efektivity, transparentnosti a dôvery v politické inštitúcie. Ak by bol AI systém schopný analyzovať legislatívu, vyhodnocovať dopady a komunikovať s občanmi, niektorí by mohli tvrdiť, že by bol výkonnejší než ľudský zástupca.

Zároveň však prichádza druhá rovina – právna a regulačná. Európska únia práve vstupuje do rozhodujúcej fázy implementácie Aktu o umelej inteligencii (AI Act), ktorý nadobudol účinnosť v auguste 2024. Rok 2026 má byť kľúčový, pretože viaceré povinnosti sa začnú naplno uplatňovať práve v tomto období. Regulácia vychádza z rizikového prístupu: systémy s neprijateľným rizikom sú zakázané, vysokorizikové podliehajú prísnym pravidlám, menej rizikové majú povinnosti transparentnosti a zvyšok spadá do kategórie minimálneho rizika.

Predstava AI poslanca by bezpochyby patrila medzi vysokorizikové systémy – ak nie ešte prísnejšie posudzované. Rozhodovanie o právach a povinnostiach občanov, formovanie verejnej politiky či hlasovanie o legislatíve by sa dotýkalo samotného jadra demokratického systému. Už dnes AI Act vyžaduje pri vysokorizikových systémoch povinný ľudský dohľad, transparentnosť a možnosť zásahu do rozhodovania systému, tvrdí Crowell. To znamená, že aj keby sa objavil „AI kandidát“, musel by byť pod neustálou kontrolou kvalifikovaných osôb.

Nová legislatíva

Európska komisia navyše pripravuje balík Digital Omnibus, ktorý má zosúladiť digitálnu legislatívu a upraviť niektoré termíny. Povinnosti pre vysokorizikové systémy by sa mohli viazať na dostupnosť harmonizovaných technických noriem, čo by v praxi znamenalo posun niektorých termínov až do rokov 2027 alebo 2028. Regulácia sa teda vyvíja, no základná filozofia ostáva: technológia má byť pod kontrolou človeka, nie naopak, uvádza AI Act. 

Zvlášť citlivou oblasťou je použitie AI v pracovnoprávnom kontexte. Systémy na výber zamestnancov, hodnotenie výkonu či monitorovanie pracoviska sú explicitne označené za vysokorizikové. Zamestnávatelia budú musieť zabezpečiť školenia, transparentnosť a konzultácie so zástupcami zamestnancov. V Belgicku napríklad kolektívna dohoda č. 39 už dnes vyžaduje konzultáciu pri zavádzaní nových technológií s významnými dôsledkami na pracovné podmienky.

Ak je teda aj AI v HR prísne regulovaná, o to citlivejšia by bola jej úloha v politickom rozhodovaní. Demokratická legitimita vychádza z volieb, zodpovednosti a verejnej kontroly. AI systém by síce mohol analyzovať dáta bez emócií, no otázka zodpovednosti by ostala otvorená. A teda kto nesie politickú zodpovednosť za jeho rozhodnutia? Programátor? Prevádzkovateľ? Politická strana?

Myšlienka „digitálneho zákonodarcu“ zatiaľ patrí skôr do rubriky satiry. No v ére, keď sa AI už podieľa na verejnej správe a politických procesoch mimo EÚ, nie je úplne nemysliteľné, že sa raz otvorí aj vážna diskusia o jej formálnej úlohe v demokratických inštitúciách. Kým sa tak stane, Brusel bude pravdepodobne pokračovať vo svojej typickej kombinácii nadšenia pre inovácie a dôslednej regulácie – a AI bude mať miesto pri stole, ale zatiaľ nie hlasovacie tlačidlo, uzatvára Politico. 

Čítaj viac z kategórie: Politika