Marek Rosa — Slo­vák, kto­rý vlo­žil mili­ó­ny dolá­rov do výsku­mu ume­lej inte­li­gen­cie

Martin Bohunický / 1. apríla 2016 / Rozhovory

Marek Rosa je veľ­mi šikov­ný Slo­vák, kto­rý má na sve­do­mí nie­koľ­ko počí­ta­čo­vých hier. V prie­be­hu minu­lé­ho roka však ozná­mil nie­čo, čo prek­va­pi­lo snáď kaž­dé­ho — roz­ho­dol sa 10 mili­ó­nov dolá­rov z vlast­ných zdro­jov vra­ziť do výsku­mu ume­lej inte­li­gen­cie. Čo si Marek od ume­lej inte­li­gen­cie sľu­bu­je, ako vní­ma jej rizi­ká a aký by chcel vidieť svet za 50 rokov, aj o tom nám poroz­prá­val v zau­jí­ma­vom roz­ho­vo­re.

Ahoj Marek, o tebe sa v posled­ných mesia­coch naho­vo­ri­lo dosť — nie je úpl­ne bež­né, aby nie­kto zobral vlast­ných 10 mili­ó­nov a vra­zil ich do svo­jej pred­sta­vy “lep­šie­ho sve­ta”. Dup­lom nie na Slo­ven­sku. Aké boli reak­cie tvoj­ho oko­lia?

Kto ma pozná, vie, že mojím snom od det­stva bol vývoj uni­ver­zál­nej AI, tak­že to veľ­kým prek­va­pe­ním nebo­lo. Vlast­ne som sa nestre­tol s nikým, kto by sa nad tým čo i len poza­sta­vil.

Ty si teda so svo­jim Keen Soft­wa­re Hou­se naj­skôr vytvá­ral hry, naj­zná­mej­šie sú Spa­ce Engi­ne­ers a Medie­val Engi­ne­ers. Kto­rá z nich ti je srd­com bliž­šia?

Obe hry, Spa­ce Engi­ne­ers aj Medie­val Engi­ne­ers, zdie­ľa­jú rov­na­kú tech­no­ló­giu a navzá­jom sa dopĺňa­jú nie­len nový­mi prv­ka­mi, fun­kcia­mi, ale aj na báze komu­nit­nej spät­nej väz­by. Ak by som si mal vybrať jed­nu, kriv­dil by som dru­hej. Na oboch sa aktív­ne pra­cu­je kaž­dý deň a kaž­dý týž­deň je obsah roz­ši­ro­va­ný pra­vi­del­ný­mi aktu­ali­zá­cia­mi. Spa­ce Engi­ne­ers je pre mňa zau­jí­ma­vá tým, že je zasa­de­ná do budúc­nos­ti a teda ponú­ka viac kre­a­tív­nych mož­nos­tí. Na dru­hej stra­ne Medie­val Engi­ne­ers je zau­jí­ma­vá tým, že sa vra­cia do zide­a­li­zo­va­nej minu­los­ti a to je v hre prí­jem­né.

V kaž­dom prí­pa­de ti však obe pomoh­li zís­kať poriad­ne tuč­ný kapi­tál, kto­rý si sa roz­ho­dol vra­ziť do svoj­ho pro­jek­tu GoodAI. Je to inves­tí­cia ale­bo túž­ba zme­niť svet? Prí­pad­ne obo­je?

Vytvo­riť ume­lú inte­li­gen­ciu bol mojim snom odjak­ži­va, rov­na­ko, ako robiť hry. Pred 20 rok­mi som však nevi­del komerč­né využi­tie pre ume­lú inte­li­gen­ciu, neve­del som, ako by som ten pro­jekt mohol sám finan­co­vať, tak som začal s tvor­bou hier, čo bola dru­há vec kto­rú som túžil robiť. A teraz sa nachá­dzam v uni­kát­nej pozí­cii, kedy si môžem ísť za svo­jím dlho­roč­ným snom. AI nebe­riem ako finanč­nú inves­tí­ciu, AI je pre mňa nástroj, kto­rým môže­me dosiah­nuť ďal­šie veľ­mi zau­jí­ma­vé veci veľ­mi efek­tív­nym spô­so­bom.

Pro­jekt si ozná­mil v roku 2014 ako súčasť tvoj­ho Keen Soft­wa­re Hou­se, ako samos­tat­ná jed­not­ka fun­gu­je GoodAI až od júla 2015. Pre­čo si sa tak roz­ho­dol?

Pôvod­ne na pro­jek­te GoodAI v rám­ci Keen Soft­wa­re Hou­se pra­co­va­li 2 – 3 výskum­ní­ci. Od júla 2015 sa však náš tím roz­rás­tol natoľ­ko, že sme boli pri­pra­ve­ní pred­sta­viť našu prá­cu medzi AI komu­ni­tou, ale už nie ako súčasť her­nej spo­loč­nos­ti, ale ako samos­tat­ná enti­ta venu­jú­ca sa vývo­ju uni­ver­zál­nej ume­lej inte­li­gen­cie. A tým sme si úmy­sel­ne uši­li na seba aj bič, aby sme sa moti­vo­va­li a pri­ná­ša­li výsled­ky.

Je tvoj nový pro­jekt záro­veň pod­po­rou pre tvo­je hry. Bude sa dať táto inte­li­gen­cia do nich apli­ko­vať?

Vir­tu­ál­ne pro­stre­die je ide­ál­ne na rých­le tes­to­va­nie a uče­nie sa. Začí­na­me s jed­no­du­chý­mi hra­mi, kde si doká­že­me pomer­ne rých­lo otes­to­vať zlo­ži­tosť pro­stre­dia, jeho štruk­tú­ru aj pra­vid­lá. Plá­nom je AI potom integ­ro­vať aj do našich hier, ale samoz­rej­me aj do ďal­ších pro­duk­tov a slu­žieb.

Pre­čo via­ce­ré veľ­ké kor­po­rá­cie a mno­ho ľudí tak usi­lov­ne na ume­lej inte­li­gen­cii pra­cu­je? Čo nám má ume­lá inte­li­gen­cia pri­niesť?

Osob­ne som prek­va­pe­ný, že do vývo­ja uni­ver­zál­nej ume­lej inte­li­gen­cie nein­ves­tu­je viac spo­loč­nos­tí vzhľa­dom na obrov­skú návrat­nosť inves­tí­cie. Z tej­to tech­no­ló­gie bude­me nako­niec ťažiť všet­ci – pokiaľ sa nám poda­rí zau­to­ma­ti­zo­vať inte­li­gen­ciu, bude­me môcť zlep­šiť všet­ky pro­duk­ty a služ­by a záro­veň obja­viť úpl­ne nové využi­tia, kto­ré dote­raz nemoh­li vznik­núť, pre­to­že ľud­ská inte­li­gen­cia nie je tak ľah­ko šká­lo­va­teľ­ná, ako bude tá ume­lá.

Pra­cu­ješ na vývo­ji “ume­lej moz­go­vej archi­tek­tú­ry” schop­nej pris­pô­so­biť sa aké­mu­koľ­vek pro­stre­diu. Čo to v pra­xi zna­me­ná?

Našim cie­ľom je vyvi­núť uni­ver­zál­nu ume­lú inte­li­gen­ciu, kto­rá je chyt­rá, fle­xi­bil­ná a učen­li­vá ako člo­vek. Úzko zame­ra­né rie­še­nia ako, pove­dz­me, autá bez vodi­čov sú výbor­né v tom, na čo boli navr­hnu­té. Taká­to tech­no­ló­gia nie je pou­ži­teľ­ná v iných odvet­viach a ak má byť pou­ži­teľ­ná v novom pro­stre­dí, vyža­du­je veľa špe­ci­fic­kých nasta­ve­ní. My pra­cu­je­me na ume­lej inte­li­gen­cii, kto­rú je mož­né pou­žiť v akom­koľ­vek odvet­ví.

Naša AI by mala mať vlast­nos­ti ako uče­nie sa z malé­ho množ­stva prí­kla­dov, gene­ra­li­zá­cia a potom špe­cia­li­zá­cie ako postup­né uče­nie sa bez zabú­da­nia, schop­nosť apli­ko­vať zna­los­ti z jed­nej domé­ny do dru­hej atď.

V akej fáze v súčas­nos­ti GoodAI je? Dá sa vôbec odhad­núť, kde môže byť taký pro­jekt pove­dz­me za tri roky?

Sme veľ­mi spo­koj­ní s pokro­kom od janu­ára toh­to roku, aj s naši­mi výsled­ka­mi; uro­bi­li sme nie­koľ­ko dôle­ži­tých kro­kov a plá­nu­je­me zve­rej­niť vývo­jár­sku road mapu na nasle­du­jú­ce obdo­bie. Prvé detai­ly som zve­rej­nil na svo­jom blogu:http://blog.marekrosa.org/2015/12/goodai-r-roadmap-preview.html

V skrat­ke: pra­cu­je­me na Scho­ol for AI, v kto­rej sa náš AI agent bude učiť postup­ným a ria­de­ným pro­ce­som. Pres­ne defi­no­va­né tré­no­va­cie a tes­to­va­cie pro­stre­die s jas­ne defi­no­va­ným postu­pom nám umož­ňu­je štu­do­vať kog­ni­tív­ne vlast­nos­ti, kto­ré sa bude náš AI agent musieť naučiť, aby v danom pro­stre­dí úspeš­ne fun­go­val. Toto násled­ne vedie k veľ­mi pres­ným funkč­ným požia­dav­kám na náš AI sys­tém. Toto celé pred­sta­vu­je fra­me­work, kto­rý nám umož­ní pokra­čo­vať sys­te­ma­tic­ky dopre­du, dopĺňať AI o schop­nosť učiť sa stá­le zlo­ži­tej­šie a zlo­ži­tej­šie schop­nos­ti.

Pred nie­koľ­ký­mi mesiac­mi ozná­mil Elon Musk, že spo­lu so svo­ji­mi par­tner­mi inves­tu­jú miliar­du dolá­rov do spo­loč­nos­ti Ope­nAI. Bojí sa totiž, že by moh­la ume­lá inte­li­gen­cia pre­kro­čiť urči­té hra­ni­ce. Dot­knú sa ťa nejak tie­to akti­vi­ty?

S Ope­nAI sa plá­nu­je­me poba­viť a pre­d­is­ku­to­vať ich tech­no­ló­giu, bez­peč­nosť, archi­tek­tú­ru aj road mapu. Zau­jí­ma nás, akou for­mou plá­nu­jú spo­lu­pra­co­vať s komu­ni­tou podie­ľa­jú­cou sa na vývo­ji uni­ver­zál­nej ume­lej inte­li­gen­cie, kto­rú otvo­re­ne pod­po­ru­je­me. Takis­to sme zve­da­ví na ich názor na bez­peč­nost­né dopa­dy open sour­cou­va­nej AGI.

Taký Step­hen Hawking tiež pred ume­lou inte­li­gen­ci­ou varu­je a obá­va sa, že by ďal­ší prog­res mohol byť začiat­kom kon­ca ľud­stva. Aký máš k tomu postoj?

Oba­vy a rizi­ká sú na mies­te, ale na dru­hej stra­ne sú tu aj veľ­ké pozi­tí­va. Dôle­ži­té je, aby tie­to pozi­tí­va pre­vá­ži­li nad mož­ný­mi rizi­ka­mi. A to sa urči­te dá dosiah­nuť. Vývoj uni­ver­zál­nej ume­lej inte­li­gen­cie nebe­rie­me na ľah­kú váhu aj pre­to otvo­re­ne spo­lu­pra­cu­je­me so sku­pi­na­mi, kto­ré sa zaobe­ra­jú jej bez­peč­nos­ťou (FLI, FHI, MIRI, atd.) a skú­ma­jú spô­so­by, ako udr­žať tech­no­ló­giu v rukách ľudí a v bez­pe­čí. Avšak jed­ným z naj­väč­ších rizík by bolo nevy­ví­jať ume­lú inte­li­gen­ciu; vždy ju môže vyvi­núť nie­kto nezná­my a potom to naši ľudia nebu­dú mať mož­nosť ovplyv­niť.

Sami na v oblas­ti bez­peč­nos­ti AI rie­ši­me dva pro­jek­ty: open sour­co­va­nú AGI a bez­peč­ná a plod­ná spo­lu­prá­ca medzi AGI inšti­tú­cia­mi. Obe tie­to témy momen­tál­ne rie­ši­me a sna­ží­me sa aj s eko­nó­ma­mi a odbor­ník­mi na Game The­ory (Her­ná teória) nájsť opti­mál­ny model.

Ty z toho vôbec nemáš strach? Ok, tvo­je úmys­ly sú dob­ré, ale mate­riál sa môže dostať aj do nespráv­nych rúk. Ale­bo môže­me stra­tiť nad ich roz­vo­jom kon­tro­lu.

Uni­ver­zál­na AI prav­de­po­dob­ne zme­ní náš svet od zákla­dov. Ide o tech­no­ló­giu s naj­väč­ším poten­ciá­lom a dopa­dom na ľud­stvo. Osob­ne nabá­dam, aby čo naj­viac ľudí zača­lo o AI uva­žo­vať už teraz a zača­li inves­to­vať do jej vývo­ja. Spo­je­ním úsi­lia a zdro­jov môže­me vytvo­riť budúc­nosť, akú chce­me.

A čo si o tom mys­lia ľudia v tvo­jom oko­lí? Via­ce­rí sa boja, že by im “robo­ti” moh­li v budúc­nos­ti vziať prá­cu.

Ja sa osob­ne na to teším. Chcem, aby ľudia mali viac slo­bo­dy a moh­li si vybrať to, čo chcú robiť kaž­dý deň. Aby necho­di­li do prá­ce, kto­rá ich neba­ví. Samoz­rej­me, pre­chod na eko­no­mi­ku, kde za ľudí vyko­ná­va­jú prá­cu stro­je, nebu­de jed­no­du­chý a mno­hí sa môžu ocit­núť v nevý­ho­de. Jed­ným z rie­še­ní by bolo v takom­to prí­pa­de sta­no­viť základ­ný prí­jem pre všet­kých. Ja však verím, že čoraz viac ľudí začne inves­to­vať do ume­lej inte­li­gen­cie a ťažiť z toho neskôr, keď bude táto tech­no­ló­gia dostup­ná.

Ako si pri súčas­nom vývo­ji pred­sta­vu­ješ svet v roku 2050 v ide­ál­nom prí­pa­de?

Bez­peč­ne sa nám poda­ri­lo vyvi­núť a spus­tiť AGI, kto­rá nám pomá­ha s ďaľ­ším tech­no­lo­gic­kým pokro­kom. Inte­li­gen­cia ako nastroj je tak dostup­ná pre kaž­dé­ho a vša­de oko­lo nás. Postup­ne začí­na­me rie­šiť počí­ta­če na nano (a niž­šej) úrov­ni, za úče­lom efek­tív­nej­šie­ho využi­tia hmo­ty oko­lo nás. Do ves­mí­ru štar­tu­jú prvé AGI rake­ty. Ľudia netr­pia, cho­ro­by sú vylie­če­né, nikto neumie­ra. Ľud­stvo začí­na poma­ly spoz­ná­vať ďal­šie a ďal­šie tajom­stvá fyzic­ké­ho ves­mí­ru.

A keby si mal byť tro­chu rea­lis­ta? :)

Uni­ver­zál­nu ume­lú inte­li­gen­ciu môže­me vyvi­núť za tri ale­bo 30 rokov. Ja dúfam, že to bude čosko­ro. Viem si živo pred­sta­viť svet, v kto­rom sme vyrie­ši­li všet­ky dôle­ži­té otáz­ky – star­nu­tie, nevy­lie­či­teľ­né cho­ro­by, glo­bál­ne otep­ľo­va­nie. Teším sa na obdo­bie, kedy bude mož­né ces­to­va­nie vo ves­mí­re a keď pocho­pí­me (snáď všet­ky) záha­dy ves­mí­ru.

Zdroj titul­nej foto­gra­fie: face­bo­ok archív GoodAI

Pridať komentár (0)