Marek Rosa — Slo­vák, ktorý vlo­žil mili­óny dolá­rov do výskumu ume­lej inte­li­gen­cie

Martin Bohunický / 1. apríl 2016 / Rozhovory

Marek Rosa je veľmi šikovný Slo­vák, ktorý má na sve­domí nie­koľko počí­ta­čo­vých hier. V prie­behu minu­lého roka však ozná­mil niečo, čo prek­va­pilo snáď kaž­dého — roz­ho­dol sa 10 mili­ó­nov dolá­rov z vlast­ných zdro­jov vra­ziť do výskumu ume­lej inte­li­gen­cie. Čo si Marek od ume­lej inte­li­gen­cie sľu­buje, ako vníma jej riziká a aký by chcel vidieť svet za 50 rokov, aj o tom nám poroz­prá­val v zau­jí­ma­vom roz­ho­vore.

Ahoj Marek, o tebe sa v posled­ných mesia­coch naho­vo­rilo dosť — nie je úplne bežné, aby nie­kto zobral vlast­ných 10 mili­ó­nov a vra­zil ich do svo­jej pred­stavy “lep­šieho sveta”. Dup­lom nie na Slo­ven­sku. Aké boli reak­cie tvojho oko­lia?

Kto ma pozná, vie, že mojím snom od det­stva bol vývoj uni­ver­zál­nej AI, takže to veľ­kým prek­va­pe­ním nebolo. Vlastne som sa nestre­tol s nikým, kto by sa nad tým čo i len poza­sta­vil.

Ty si teda so svo­jim Keen Soft­ware House naj­skôr vytvá­ral hry, naj­zná­mej­šie sú Space Engi­ne­ers a Medie­val Engi­ne­ers. Ktorá z nich ti je srd­com bliž­šia?

Obe hry, Space Engi­ne­ers aj Medie­val Engi­ne­ers, zdie­ľajú rov­nakú tech­no­ló­giu a navzá­jom sa dopĺňajú nie­len novými prv­kami, fun­kciami, ale aj na báze komu­nit­nej spät­nej väzby. Ak by som si mal vybrať jednu, kriv­dil by som dru­hej. Na oboch sa aktívne pra­cuje každý deň a každý týž­deň je obsah roz­ši­ro­vaný pra­vi­del­nými aktu­ali­zá­ciami. Space Engi­ne­ers je pre mňa zau­jí­mavá tým, že je zasa­dená do budúc­nosti a teda ponúka viac kre­a­tív­nych mož­ností. Na dru­hej strane Medie­val Engi­ne­ers je zau­jí­mavá tým, že sa vra­cia do zide­a­li­zo­va­nej minu­losti a to je v hre prí­jemné.

V kaž­dom prí­pade ti však obe pomohli zís­kať poriadne tučný kapi­tál, ktorý si sa roz­ho­dol vra­ziť do svojho pro­jektu GoodAI. Je to inves­tí­cia alebo túžba zme­niť svet? Prí­padne oboje?

Vytvo­riť umelú inte­li­gen­ciu bol mojim snom odjak­živa, rov­nako, ako robiť hry. Pred 20 rokmi som však nevi­del komerčné využi­tie pre umelú inte­li­gen­ciu, neve­del som, ako by som ten pro­jekt mohol sám finan­co­vať, tak som začal s tvor­bou hier, čo bola druhá vec ktorú som túžil robiť. A teraz sa nachá­dzam v uni­kát­nej pozí­cii, kedy si môžem ísť za svo­jím dlho­roč­ným snom. AI nebe­riem ako finančnú inves­tí­ciu, AI je pre mňa nástroj, kto­rým môžeme dosiah­nuť ďal­šie veľmi zau­jí­mavé veci veľmi efek­tív­nym spô­so­bom.

Pro­jekt si ozná­mil v roku 2014 ako súčasť tvojho Keen Soft­ware House, ako samos­tatná jed­notka fun­guje GoodAI až od júla 2015. Prečo si sa tak roz­ho­dol?

Pôvodne na pro­jekte GoodAI v rámci Keen Soft­ware House pra­co­vali 2 – 3 výskum­níci. Od júla 2015 sa však náš tím roz­rás­tol natoľko, že sme boli pri­pra­vení pred­sta­viť našu prácu medzi AI komu­ni­tou, ale už nie ako súčasť her­nej spo­loč­nosti, ale ako samos­tatná entita venu­júca sa vývoju uni­ver­zál­nej ume­lej inte­li­gen­cie. A tým sme si úmy­selne ušili na seba aj bič, aby sme sa moti­vo­vali a pri­ná­šali výsledky.

Je tvoj nový pro­jekt záro­veň pod­po­rou pre tvoje hry. Bude sa dať táto inte­li­gen­cia do nich apli­ko­vať?

Vir­tu­álne pro­stre­die je ide­álne na rýchle tes­to­va­nie a uče­nie sa. Začí­name s jed­no­du­chými hrami, kde si doká­žeme pomerne rýchlo otes­to­vať zlo­ži­tosť pro­stre­dia, jeho štruk­túru aj pra­vidlá. Plá­nom je AI potom integ­ro­vať aj do našich hier, ale samoz­rejme aj do ďal­ších pro­duk­tov a slu­žieb.

Prečo via­ceré veľké kor­po­rá­cie a mnoho ľudí tak usi­lovne na ume­lej inte­li­gen­cii pra­cuje? Čo nám má umelá inte­li­gen­cia pri­niesť?

Osobne som prek­va­pený, že do vývoja uni­ver­zál­nej ume­lej inte­li­gen­cie nein­ves­tuje viac spo­loč­ností vzhľa­dom na obrov­skú návrat­nosť inves­tí­cie. Z tejto tech­no­ló­gie budeme nako­niec ťažiť všetci – pokiaľ sa nám podarí zau­to­ma­ti­zo­vať inte­li­gen­ciu, budeme môcť zlep­šiť všetky pro­dukty a služby a záro­veň obja­viť úplne nové využi­tia, ktoré dote­raz nemohli vznik­núť, pre­tože ľud­ská inte­li­gen­cia nie je tak ľahko šká­lo­va­teľná, ako bude tá umelá.

Pra­cu­ješ na vývoji “ume­lej moz­go­vej archi­tek­túry” schop­nej pris­pô­so­biť sa aké­mu­koľ­vek pro­stre­diu. Čo to v praxi zna­mená?

Našim cie­ľom je vyvi­núť uni­ver­zálnu umelú inte­li­gen­ciu, ktorá je chytrá, fle­xi­bilná a učen­livá ako člo­vek. Úzko zame­rané rie­še­nia ako, pove­dzme, autá bez vodi­čov sú výborné v tom, na čo boli navr­hnuté. Takáto tech­no­ló­gia nie je pou­ži­teľná v iných odvet­viach a ak má byť pou­ži­teľná v novom pro­stredí, vyža­duje veľa špe­ci­fic­kých nasta­vení. My pra­cu­jeme na ume­lej inte­li­gen­cii, ktorú je možné pou­žiť v akom­koľ­vek odvetví.

Naša AI by mala mať vlast­nosti ako uče­nie sa z malého množ­stva prí­kla­dov, gene­ra­li­zá­cia a potom špe­cia­li­zá­cie ako postupné uče­nie sa bez zabú­da­nia, schop­nosť apli­ko­vať zna­losti z jed­nej domény do dru­hej atď.

V akej fáze v súčas­nosti GoodAI je? Dá sa vôbec odhad­núť, kde môže byť taký pro­jekt pove­dzme za tri roky?

Sme veľmi spo­kojní s pokro­kom od janu­ára tohto roku, aj s našimi výsled­kami; uro­bili sme nie­koľko dôle­ži­tých kro­kov a plá­nu­jeme zve­rej­niť vývo­jár­sku road mapu na nasle­du­júce obdo­bie. Prvé detaily som zve­rej­nil na svo­jom blogu:http://blog.marekrosa.org/2015/12/goodai-r-roadmap-preview.html

V skratke: pra­cu­jeme na School for AI, v kto­rej sa náš AI agent bude učiť postup­ným a ria­de­ným pro­ce­som. Presne defi­no­vané tré­no­va­cie a tes­to­va­cie pro­stre­die s jasne defi­no­va­ným postu­pom nám umož­ňuje štu­do­vať kog­ni­tívne vlast­nosti, ktoré sa bude náš AI agent musieť naučiť, aby v danom pro­stredí úspešne fun­go­val. Toto následne vedie k veľmi pres­ným funkč­ným požia­dav­kám na náš AI sys­tém. Toto celé pred­sta­vuje fra­me­work, ktorý nám umožní pokra­čo­vať sys­te­ma­ticky dopredu, dopĺňať AI o schop­nosť učiť sa stále zlo­ži­tej­šie a zlo­ži­tej­šie schop­nosti.

Pred nie­koľ­kými mesiacmi ozná­mil Elon Musk, že spolu so svo­jimi par­tnermi inves­tujú miliardu dolá­rov do spo­loč­nosti Ope­nAI. Bojí sa totiž, že by mohla umelá inte­li­gen­cia pre­kro­čiť určité hra­nice. Dot­knú sa ťa nejak tieto akti­vity?

S Ope­nAI sa plá­nu­jeme poba­viť a pre­d­is­ku­to­vať ich tech­no­ló­giu, bez­peč­nosť, archi­tek­túru aj road mapu. Zau­jíma nás, akou for­mou plá­nujú spo­lu­pra­co­vať s komu­ni­tou podie­ľa­jú­cou sa na vývoji uni­ver­zál­nej ume­lej inte­li­gen­cie, ktorú otvo­rene pod­po­ru­jeme. Takisto sme zve­daví na ich názor na bez­peč­nostné dopady open sour­cou­va­nej AGI.

Taký Step­hen Hawking tiež pred ume­lou inte­li­gen­ciou varuje a obáva sa, že by ďalší prog­res mohol byť začiat­kom konca ľud­stva. Aký máš k tomu postoj?

Obavy a riziká sú na mieste, ale na dru­hej strane sú tu aj veľké pozi­tíva. Dôle­žité je, aby tieto pozi­tíva pre­vá­žili nad mož­nými rizi­kami. A to sa určite dá dosiah­nuť. Vývoj uni­ver­zál­nej ume­lej inte­li­gen­cie nebe­rieme na ľahkú váhu aj preto otvo­rene spo­lu­pra­cu­jeme so sku­pi­nami, ktoré sa zaobe­rajú jej bez­peč­nos­ťou (FLI, FHI, MIRI, atd.) a skú­majú spô­soby, ako udr­žať tech­no­ló­giu v rukách ľudí a v bez­pečí. Avšak jed­ným z naj­väč­ších rizík by bolo nevy­ví­jať umelú inte­li­gen­ciu; vždy ju môže vyvi­núť nie­kto neznámy a potom to naši ľudia nebudú mať mož­nosť ovplyv­niť.

Sami na v oblasti bez­peč­nosti AI rie­šime dva pro­jekty: open sour­co­vanú AGI a bez­pečná a plodná spo­lu­práca medzi AGI inšti­tú­ciami. Obe tieto témy momen­tálne rie­šime a sna­žíme sa aj s eko­nó­mami a odbor­níkmi na Game The­ory (Herná teória) nájsť opti­málny model.

Ty z toho vôbec nemáš strach? Ok, tvoje úmysly sú dobré, ale mate­riál sa môže dostať aj do nespráv­nych rúk. Alebo môžeme stra­tiť nad ich roz­vo­jom kon­trolu.

Uni­ver­zálna AI prav­de­po­dobne zmení náš svet od zákla­dov. Ide o tech­no­ló­giu s naj­väč­ším poten­ciá­lom a dopa­dom na ľud­stvo. Osobne nabá­dam, aby čo naj­viac ľudí začalo o AI uva­žo­vať už teraz a začali inves­to­vať do jej vývoja. Spo­je­ním úsi­lia a zdro­jov môžeme vytvo­riť budúc­nosť, akú chceme.

A čo si o tom mys­lia ľudia v tvo­jom okolí? Via­cerí sa boja, že by im “roboti” mohli v budúc­nosti vziať prácu.

Ja sa osobne na to teším. Chcem, aby ľudia mali viac slo­body a mohli si vybrať to, čo chcú robiť každý deň. Aby necho­dili do práce, ktorá ich nebaví. Samoz­rejme, pre­chod na eko­no­miku, kde za ľudí vyko­ná­vajú prácu stroje, nebude jed­no­du­chý a mnohí sa môžu ocit­núť v nevý­hode. Jed­ným z rie­šení by bolo v takomto prí­pade sta­no­viť základný prí­jem pre všet­kých. Ja však verím, že čoraz viac ľudí začne inves­to­vať do ume­lej inte­li­gen­cie a ťažiť z toho neskôr, keď bude táto tech­no­ló­gia dostupná.

Ako si pri súčas­nom vývoji pred­sta­vu­ješ svet v roku 2050 v ide­ál­nom prí­pade?

Bez­pečne sa nám poda­rilo vyvi­núť a spus­tiť AGI, ktorá nám pomáha s ďaľ­ším tech­no­lo­gic­kým pokro­kom. Inte­li­gen­cia ako nastroj je tak dostupná pre kaž­dého a všade okolo nás. Postupne začí­name rie­šiť počí­tače na nano (a niž­šej) úrovni, za úče­lom efek­tív­nej­šieho využi­tia hmoty okolo nás. Do ves­míru štar­tujú prvé AGI rakety. Ľudia netr­pia, cho­roby sú vylie­čené, nikto neumiera. Ľud­stvo začína pomaly spoz­ná­vať ďal­šie a ďal­šie tajom­stvá fyzic­kého ves­míru.

A keby si mal byť tro­chu rea­lista? :)

Uni­ver­zálnu umelú inte­li­gen­ciu môžeme vyvi­núť za tri alebo 30 rokov. Ja dúfam, že to bude čoskoro. Viem si živo pred­sta­viť svet, v kto­rom sme vyrie­šili všetky dôle­žité otázky – star­nu­tie, nevy­lie­či­teľné cho­roby, glo­bálne otep­ľo­va­nie. Teším sa na obdo­bie, kedy bude možné ces­to­va­nie vo ves­míre a keď pocho­píme (snáď všetky) záhady ves­míru.

Zdroj titul­nej foto­gra­fie: face­book archív GoodAI

Pridať komentár (0)