Profesorka Mária Bieliková: Umelá inteligencia môže rozvrátiť demokraciu, aj posunúť ľudstvo zásadne vpred (ROZHOVOR)

Umelá inteligencia sa po obdobiach „nadšenia a útlmu“ dostáva v posledných rokoch do popredia ako nikdy predtým. Stretávame sa s ňou nielen v rovine teórii, ale už aj v bežnej praxi, číha na nás hneď, čo otvoríme internet alebo zapneme fotoaparát na našom mobile.

Podľa profesorky Márie Bielikovej z Kempelenovho inštitútu inteligentných technológií nám umelá inteligencia napríklad dokáže uľahčiť prácu i život, no zároveň sa môže stať nástrojom, ktorý rozvráti demokraciu, prehĺbi spoločenské rozdiely či dopomôže ku ekologickej katastrofe.

Viac o umelej inteligencii, o dobrom i zlom scenári, ktorý si s ňou dokážeme pripraviť, o tom, či je Slovensko na umelú inteligenciu (AI) pripravené i o Kempelenovom inštitúte, ktorý u nás nedávno vznikol, sme sa v rozhovore porozprávali s odborníčkou Máriou Bielikovou.

zdroj: TASR/ Pavol Zachar

Je Slovensko na umelú inteligenciu pripravené?

Nedá sa povedať jednoznačne ani áno a ani nie. Máme na Slovensku veľmi dobré predpoklady, ale využívame ich zatiaľ len slabo. Výskum je podfinancovaný a mladí utekajú do zahraničia. Ale máme tu viaceré firmy, ktoré robia skvelé veci aj s využitím umelej inteligencie, tiež šikovných výskumníkov – len je toho všetkého veľmi málo.

Umelá inteligencia za viac ako 60 rokov od svojho vzniku prešla viacerými fázami nadšenia a následného útlmu. Aj keď výskumníci sa jej venovali prakticky stále, a to aj na Slovensku. Súčasný úspech umelej inteligencie je najmä vďaka hlbokému učeniu, ktoré posledné desaťročie zmenilo na počítanie miliónov drobných interakcií, ktoré človek nie je schopný priamo pochopiť.

Praktické aplikácie predbehli teóriu. Všetko sa výrazne zrýchlilo, výskum v oblasti umelej inteligencie sa v pomerne veľkom rozsahu dostal z univerzít do priemyslu, čo mnohých vo svete zaskočilo a viac tých, ktorí boli dlhé roky podfinancovaní a nepodarilo sa im stále vytvoriť dobrý model riadenia.

Úspechy a pripravenosť na umelú inteligenciu určuje najmä dostupnosť odborníkov na umelú inteligenciu, kvalitné dáta a výpočtová kapacita. Na Slovensku máme veľa šikovných ľudí, ale žiaľ, veľká časť z nich je v zahraničí, talent uteká nielen zo Slovenska, ale aj Európa ako taká má s tým problém. Univerzity produkujú málo expertov na umelú inteligenciu, špeciálne tých s najvyšším vzdelaním. Dáta sú spravidla niekde zamknuté a výpočtové kapacity sú dostupné viac-menej len veľkým hráčom.

zdroj: Unsplash/ Markus Winkler. Umelá inteligencia, skrátene AI

Ako umelá inteligencia môže dnes pomáhať napríklad nejakému Ferkovi z Kysúc?

Pomáha mu určite už dnes, napríklad keď píše nejaký text a webový pomocník mu opravuje chyby alebo keď nakupuje v e-shope a ten mu odporučí nejaký výrobok, ktorý by inak možno ani nenašiel. Prípadne ak sa dá do reči s chatbotom na nejakej webovej stránke. A keď si niečo objedná, tak je skoro istota, že s distribúciou tovaru vo veľkých e-shopoch pomáhajú algoritmy umelej inteligencie. Aj Ferkov fotoaparát rozpozná tváre vďaka algoritmom umelej inteligencie.

Tých príkladov je naozaj veľa, aj dobrých a aj nie takých dobrých – reklamu a odporúčanie produktov riadia algoritmy umelej inteligencie, často nastavené nie na spokojnosť zákazníka, ale na čo najväčší nákup, či na čo najdlhšie zotrvanie na sociálnej sieti, aj mnohé skreslené informácie sú generované a distribuované s pomocou umelej inteligencie. Umelá inteligencia však aj pomáha aj s odhaľovaním takéhoto nevhodného správania, ktoré tu máme už stovky rokov, ale internet umožnil ich exponenciálne šírenie.

Viete si predstaviť, čo umelá inteligencia dokáže v praxi za 10 či 20 rokov?

To, čo umelá inteligencia dokáže bude veľmi závisieť významne aj od toho, čo budeme robiť my, ľudia. Do akej miery umožníme, aby vznikali aplikácie bez dohľadu človeka. Ako sa postavíme k platformám, ktoré sú dnes nebezpečne veľké a môžu ohroziť demokratické princípy, na ktorých je postavená časť sveta, v ktorej aj my žijeme. Ako sa podarí nájsť rovnováhu v reguláciách technológií a ich rozvoja a využívania.

Aj v závislosti od toho si viem predstaviť dosť zlý scenár obrovskej nerovnosti a ekologickej katastrofy a aj skvelý scenár, v ktorom ľudia využijú umelú inteligenciu a ďalšie technológie pre dobro a lepší život. Technológie budú podporovať a rozvíjať naše činnosti tak, že tie, ktoré vyžadujú emócie, súcit, lásku, ktoré stroje nepoznajú, budú robiť ľudia a s pomocou umelej inteligencie lepšie. A tie, ktoré vie stroj lepšie optimalizovať a nevyžadujú ľudský prístup, nahradia stroje. A tak možno nebudeme mať šoférov, ale budeme mať desaťkrát viac učiteľov, lebo vzdelanie je veľmi dôležité a čím lepšie ho budeme robiť, tým lepšie nám bude.

zdroj: Startitup – Humanoida Peppera si návštevníci pobočiek okamžite obľúbili, robotizácia môže byť o 10 rokov ďaleko intenzívnejšia.

Od založenia Kempelenovho inštitútu ste tvrdili, že budete spolupracovať so slovenskými firmami a prinášať im moderné riešenia. Podarilo sa už niečo konkrétne?

Kempelenov inštitút funguje pol roka. Za pol roka sme postavili na zelenej lúke organizáciu, ktorá postupne zavádza všetku byrokraciu – tej je neúrekom, ale najmä kultúru dôvery a otvorenosti. Podali sme prvé projekty, rozbiehame prvé spolupráce.

Naším cieľom je rozvoj a zlepšovanie ako jednotlivcov – talentu, ktorý sa snažíme sústreďovať, tak aj inovačných kapacít firiem aj v spolupráci s ďalšími akademickými inštitúciami. Ide o dlhodobé projekty.

Ak by sme chceli prvoplánovo získať zákazky, nezakladali by sme neziskový výskumný inštitút s ambíciou prispieť k cirkulácii talentu, ale založili by sme firmu. Náš cieľ je prinášať nové poznatky, ktoré budú mať potenciál inovovať. Tie sa vo väčšine prípadov neuplatnia hneď, aj keď efekt na raste ľudí, ktorí sú pri tom, sa ukáže pomerne rýchlo.

Ako ešte môžu takzvané smart technológie pomáhať jednotlivým firmám?

To závisí od toho, čomu sa firma venuje. Vo výrobe môžu chytré technológie pomôcť odhaľovať poruchy zariadení na základe zvuku a prípadne aj obrazu. Toto sa dá využiť nielen pri výrobe, ale aj pri používaní, napríklad v doprave na kontrolu fungovania auta, či monitorovanie vozovky. Môžu pomôcť firmám v efektívnejšom zabezpečení ich procesov, napríklad v distribúcii súčiastok alebo priamo vo vylepšení ich produktov.

Mohla by aj vláda teraz spraviť nejaké kroky v oblasti AI, ktoré by sa dali rýchlo aplikovať a pomáhali by Slovákom?

Určite mohla. V prvom rade by mala razantne podporiť výchovu expertov v oblasti umelej inteligencie. Experti v tejto oblasti sú veľmi dôležití na to, aby sa vôbec mohli naštartovať vývojové aktivity a mohli sa zapojiť aj odborníci z iných oblastí.

Viaceré krajiny už dlhodobejšie finančne podporujú výchovu AI expertov a tým sa dostávajú výraznejšie dopredu. Príkladom je Francúzsko. Chýbajú najmä odborníci s najvyšším, tretím stupňom vzdelania, ktorí by išli do praxe a rozvíjali R&D vo firmách a pomohli by aj v štátnej správe.

Na Slovensku je problém urobiť čokoľvek, čo by podporilo jednu oblasť, lebo hneď sa ozvú tí, ktorých sa to priamo a krátkodobo nedotkne. Vo výsledku strácajú všetci. Vláda by mala výrazne podporiť prepájanie akademického sveta s firmami, podporiť výskum, ktorý má potenciál viesť k inováciám. Mali by sme na Slovensku vytvárať pridanú hodnotu najmä našimi hlavami, čo je najefektívnejšie a pre takú malú krajinu ako je Slovensko aj z dlhodobého pohľadu nevyhnutné.

A netýka sa to len technických odborov, výskum spoločenských a humanitných aspektov je stále viac a viac dôležitý. Tých námetov je viac a s niektorými aj vláda už pracuje. Pri každom z nich však treba silno zapojiť medzinárodné prostredie do hodnotenia a smerovania v rámci investícií a výrazne aj finančne podporovať každú medzinárodnú aktivitu smerujúcu k zlepšovaniu prostredia, v ktorom žijeme a tvoríme.

zdroj: ABB

Na čom momentálne váš inštitút pracuje?

Začíname v oblastiach spracovania prirodzeného jazyka, bezpečnosti, inteligentných energetických sietí, odporúčania a aj analýzy správania ľudí na internete, vrátane skúmania dezinformácií v prostredí webu. Venujeme sa aj problémom etiky, ktoré sú dôležité pre akýkoľvek zodpovedný výskum a vývoj, ale pre umelú inteligenciu obzvlášť. Verím, že sa Kempelenovmu inštitútu podarí rásť a tým aj oblasti rozširovať tak, aby mali vždy dobré prepojenie na problémy slovenského priemyslu.

Otvárate PhD. program, fungujete teda aj ako univerzita?

Fungujeme ako výskumná inštitúcia, ktorá má zmluvu s univerzitou pre výchovu doktorandov. Podobne funguje aj Slovenská akadémia vied. Doktorandi sú pre naplnenie nášho cieľa prispieť k cirkulácii talentu v našom regióne kľúčoví. Pomôžeme zvedavým a motivovaným ľuďom, aby sa naučili a zdokonalili v tom, ako riešiť komplexné problémy na hrane poznania spolu s najlepšími odborníkmi, či už špičkovými vedcami aj zo zahraničia alebo s expertmi z firiem, s ktorými spolupracujeme.

Chceme prispieť k excelentnej vede – sme vďační, že už prvý rok sa šiesti vedci zo zahraničia podujali byť v tíme supervisorov a tiež riešiť problémy blízke firmám, tzv. industriálnym PhD., ktoré je vo svete bežné.

Máte nejaký program, projekt aj pre menej IT skúseného človeka, ako som napríklad ja?

Niečo máme už teraz a niečo plánujeme. Takéto programy nie sú naša prvoradá aktivita a tiež musíme veľmi starostlivo strážiť naše kapacity, aby sme mohli narásť. Ale popularizácia vedy je kľúčová pre každú výskumnú organizáciu. Pre umelú inteligenciu to platí hneď dvakrát. Najmä preto, že sa dostáva do našich životov takmer vo všetkých oblastiach.

Odporúčam najmä nasledovať stránku Kempelenovho inštitútu, kde zverejňujeme zaujímavé novinky (aj na sociálnych sieťach). Tam sa dozviete aj odporúčanie vhodných programov pre menej skúsených. Konkrétne pre umelú inteligenciu a začiatočníkov máme aktuálne hneď na Slovensku dva zaujímavé programy.

Prvým je nedávno na Slovensku uvedený kurz Elements of AI, ktorý bol vytvorený vo Fínsku počas jeho predsedníctva Európskej komisie a postupne sa dostal do všetkých krajín Európskej únie. Slovenská verzia vznikla pod odborným dohľadom Univerzity Komenského a slovenským partnerom je Centrum pre umelú inteligenciu. Druhý je program Grow with Google, ktorý má aj modul k umelej inteligencii s viacerými kurzami. Kempelenov inštitút je odborným partnerom Google v tomto programe.

zdroj: Unsplash/K.G

Zaoberáte sa aj etikou technológií, viete to bližšie vysvetliť, čo si pod tým predstaviť?

Ide o to, aby sme vytvárali také technologické riešenia, ktoré budú nielen excelentné, ale budú aj cielene ctiť etické princípy, ktoré všetci poznáme z bežného života – rešpektovanie autonómie človeka, prevencia ujmy človeku, spravodlivosť, dobročinnosť. Keď hovoríme o technológiách a špeciálne umelej inteligencii pridávame ešte jednu dôležitý princíp a to je vysvetliteľnosť.

Ide o to, aby sme mali jasno v tom, ako chceme našimi riešeniami ako výskumníci a vývojári pomáhať jednotlivcom a spoločnosti. A teda ako sme si vedomí možných rizík, ktoré môže toto naše snaženie vyvolať a že robíme všetko preto, aby sme minimalizovali možné negatívne dopady.

Vyzerá to asi dosť abstraktne, ale reálne ide o to, že pri každom projekte sa od samého začiatku zamýšľame systematicky nad otázkami spojenými s rizikami a dopadmi, ktoré môže náš výsledok priniesť. Napríklad, keď nemáme vyvážený dataset, aby sme o tom vedeli a s touto znalosťou aj interpretovali výsledky.

Na začiatku ste mali v tíme 25 odborníkov, koľko ich máte teraz?

Teraz nás je 29 výskumníkov a 5 skvelých kolegov, ktorí sa starajú o to, aby hladko bežali všetky procesy. Všetci výskumníci však nie sú na plný úväzok, zároveň viacerí sa podieľajú aj na manažmente inštitútu, takže naša výskumná kapacita je menšia ako toto číslo.

Pocítili ste nejako následky pandémie? A posunul sa vývoj AI vpred alebo ho to zabrzdilo?

Celkovo pandémia priamo vývoj umelej inteligencie negatívne neovplyvnila. Umelá inteligencia ako disciplína sa stále rýchlo rozvíja. V niektorých oblastiach, najmä v spojení s digitálnym svetom ako aj počítačovými hrami sa práve rozšírením používania v čase pandémie zrýchlilo nasadzovanie nových algoritmov, ale aj experimentovanie s novými metódami umelej inteligencie.

To čo išlo výrazne do popredia posledný rok alebo dva je najmä otázka vysvetliteľnosti a transparentnosti. Nie je priamo vyvolaná pandémiou, ale pandémia ešte viac zvýraznila potrebu pokroku v tejto oblasti.

zdroj: Unsplash/ National Cancer Institute

Pomáhajú alebo viete si predstaviť, že by inteligentné technológie pomáhali aj v boji s pandémiou?

Určite áno. Pomáhajú, počnúc od predikcií a simulácie šírenia pandémie, cez analýzu samotného vírusu až po pomoc pri prevencii, napríklad vývoj senzorov, ktoré detegujú vzdialenosti medzi ľuďmi, alebo nosenie rúšok.

Ako vlastne vznikol nápad založiť na Slovensku Kempelenov inštitút inteligentných technológii?

Situácia, ktorá vznikla na Fakulte informatiky a informačných technológií STU v Bratislave rezonovala vo veľkej časti spoločnosti. Ja som dlho verila, že sa to urovná. Po neplatných voľbách do akademického senátu bola podaná žaloba aj s odkladným opatrením – aby sa nekonali ďalšie voľby dovtedy, dokedy súd nerozhodne. A nielenže súd v stanovenej lehote nerozhodol, šiesti ďalší kolegovia sa ocitli bez práce. Bola tu obrovská energia pokračovať v tom, čo sme na FIITke budovali – sústreďovanie a rozvíjanie talentu. Tak vznikol Kempelenov inštitút.

Ako ste presvedčili prvých odborníkov do tímu či veľkých investorov, aby vás podporili? Bolo to ťažké?

Ťažké bolo pre mňa sa vysporiadať so vzniknutou situáciou. Pochopiť, čo sa vlastne stalo. Na to budeme všetci potrebovať ešte nejaký čas. Časť kolegov sa ocitla podobne ako ja – bez práce. A ďalší sa rozhodli ich nasledovať, a tak ukončili pracovný pomer. To sa udialo ešte predtým ako vznikla myšlienka založiť KInIT.

Každý z kolegov mal viaceré možnosti, ako sa uplatniť, informatici sú všade dnes žiadaní. Ja som hľadala, ako pokračovať v tom, čo sme robili na univerzite. A tiež som sa nevedela zmieriť s tým, že by sa viac ako 30 výskumníkov motivovaných zlepšovať spoločnosť, rozdávať svoje znalosti, len tak rozpŕchlo do priemyslu. Niežeby ich priemysel nepotreboval, ale výskumníkov v umelej inteligencii máme strašne málo. Ak chceme zlepšiť Slovensko, tak potrebujeme doslova vyvážiť zlatom všetkých tých, ktorí majú potenciál a schopnosti vychovať čestných a kvalitných expertov.

Som rada, že vďaka viacerým odvážnym jednotlivcom, ktorí myšlienku inštitútu podporili, máme možnosť rozvíjať víziu, ktorú sme začali na univerzite teraz transformovali do inej formy. Ostávame akademici, ale sme podstatne bližšie k priemyslu. Spolupracujeme s univerzitami, chceme prispieť aj k ich zlepšovaniu. Máme v rukách to, ako budeme fungovať. Aj zodpovednosť za to, aby sme aj na Slovensku umožnili vytvoriť niečo, čo vo svete bežne funguje.

zdroj: TASR/ Dano Veselský

Ide o investície, ktoré sa daným firmám nejako vrátia alebo jednoducho netreba za všetkým hľadať peniaze?

Vrátia sa určite, ale nie hneď a nie priamo. Vrátia sa cez zlepšený ekosystém výskumu, vývoja a transferu poznatkov do praxe. Nemôžeme sa len tak prizerať ako štát roky zlyháva v tejto oblasti. Pre firmy by to znamenalo, že sa uspokoja s priemernosťou. A tie, ktoré budú chcieť dosiahnuť viac, budú musieť ísť so svojím vývojom do zahraničia.

Toto nie je na Slovensku ľahké, lebo stále sa mnohí, či už to je štát alebo firmy, na veci pozerajú len cez krátkodobé úspechy a zisky. Ale tie spravidla nevedú k dlhodobému zlepšovaniu. Som veľmi rada, že na Slovensku vznikla kritická masa, ktorá umožnila vznik Kempelenovho inštitútu.