AI Act odhalí slabé miesta: Expertka Katarína Mikle vysvetľuje najväčšie omyly pri používaní umelej inteligencie

AI Act prijali slovenské firmy pomerne vlažne. A to aj napriek tomu, že z neho vyplýva množstvo povinností, ktoré sa ich týkajú, uvádza portál Podnikám. Preto sme sa pozreli bližšie na túto tému s dôrazom na zistenie rozsahu týchto povinností. Ďalšia časť tejto smernice vstupuje do platnosti už 2. augusta 2026. 

Umelá inteligencia ovplyvňuje nielen naše životy v súkromí, ale aj v pracovnej rovine. Firmy implementujú nové nástroje do svojej činnosti. Problémom však je, že nie vždy postupujú v súlade s aktuálnou legislatívou.

• Ktoré AI nástroje vo firmách môžu byť podľa vás najrizikovejšie?
• Ako má bežná slovenská firma zistiť, či používa vysokorizikový AI systém? Môže si to vyhodnotiť sama cez IT oddelenie, alebo potrebuje právnika, bezpečnostného experta a audit používaných nástrojov?
• Čo ambulancie, kliniky a zdravotnícke zariadenia?
• Ktoré typy organizácií podľa vás zaspali najviac a kde hrozí, že sa problém ukáže až pri kontrole alebo incidente? Čo by mala každá organizácia urobiť ako prvé, ak nechce august 2026 podceniť?
• Stačí zoznam používaných AI nástrojov, interná smernica, školenie zamestnancov a kontrola zmlúv s dodávateľmi, alebo je potrebný komplexnejší AI audit?

Práve to sa stalo leitmotívom nášho rozhovoru s expertkou na implementáciu umelej inteligencie vo firmách, ale s ňou súvisiacou bezpečnosťou – Katarínou Mikle, ktorá pomáha organizáciám nastavovať, implementovať, nezávisle posudzovať a auditovať systémy riadenia bezpečnosti informácií a umelej inteligencie.  

Mnohé firmy si myslia, že AI Act sa ich netýka, pretože umelú inteligenciu samy nevyvíjajú. Je to najväčší omyl, s ktorým sa dnes stretávate?

Áno, je to jeden z častých omylov, ale nepovedala by som, že najväčší. Väčší problém je, že firmy často nevnímajú AI ako regulovaný proces, ale len ako bežný nástroj.

AI Act sa netýka iba vývojárov umelej inteligencie. Týka sa aj firiem a organizácií, ktoré AI používajú vo vlastných procesoch, najmä ak jej výstupy ovplyvňujú zamestnancov, klientov, žiakov, pacientov alebo občanov.

Rozhodujúce teda nie je len to, kto AI systém vyvinul, ale najmä na aký účel ho organizácia používa, s akými údajmi pracuje a aký vplyv môže mať na človeka.

Kde je hranica medzi firmou, ktorá AI iba používa, a subjektom, ktorý už má podľa európskej regulácie konkrétne právne povinnosti?

Hranica je tam, kde AI už nie je len pomocný nástroj, ale začne ovplyvňovať rozhodnutia alebo procesy, ktoré majú vplyv na ľudí.

Ak ju firma používa napríklad na prípravu textu alebo internú sumarizáciu, riziko býva nižšie. Ak však AI triedi kandidátov, hodnotí výkon zamestnancov, odporúča finančný alebo poistný produkt, analyzuje zdravotné údaje alebo pomáha rozhodovať o žiadostiach občanov, organizácia už musí riešiť konkrétne právne povinnosti.

V praxi sa preto nepozerám len na to, či firma AI vyvinula. Podstatné je, na aký účel ju používa, aké údaje do nej vstupujú a či jej výstup môže ovplyvniť práva alebo postavenie človeka.

Aké povinnosti platia pre firmy a organizácie už dnes, teda ešte pred 2. augustom 2026?

Pred augustom 2026 nejde len o AI Act. Firmy a organizácie už dnes musia riešiť povinnosti, ktoré vyplývajú napríklad z GDPR, ochrany osobných údajov, kybernetickej bezpečnosti, zmlúv s dodávateľmi a z povinnosti zabezpečiť AI gramotnosť zamestnancov.

V praxi to znamená, že organizácia má vedieť, aké AI nástroje používa, kto s nimi pracuje, aké údaje do nich vkladá a na aký účel ich využíva. Zároveň musí mať nastavené interné pravidlá, kontrolu dát a ľudský dohľad tam, kde AI môže ovplyvniť rozhodnutie o človeku.

Čakať na august 2026 preto nebol ten správny postup. Zodpovedná organizácia mala začať už skôr s inventárom AI nástrojov, pravidlami ich používania, školením ľudí, kontrolou zmlúv a posúdením rizík.

AI gramotnosť nepredstavuje jednorazové školenie ani formálnu prezenčnú listinu. V praxi znamená, že zamestnanci rozumejú tomu, čo AI nástroj dokáže, kde má limity a aké riziká môže priniesť.

Čítaj viac z kategórie: Zo Slovenska