Marek Rosa – Slovák, ktorý vložil milióny dolárov do výskumu umelej inteligencie

  • Marek Rosa je veľmi šikovný Slovák, ktorý má na svedomí niekoľko počítačových hier. V priebehu minulého roka však oznámil niečo, čo prekvapilo snáď každého - rozhodol sa 10 miliónov dolárov z vlastných zdrojov vraziť do výskumu umelej inteligencie. Čo si Marek od umelej inteligencie sľubuje, ako vníma jej riziká a aký by chcel vidieť svet za 50 rokov, aj o tom nám porozprával v zaujímavom rozhovore.
Screen Shot 2016-04-01 at 20.30.30
  • Marek Rosa je veľmi šikovný Slovák, ktorý má na svedomí niekoľko počítačových hier. V priebehu minulého roka však oznámil niečo, čo prekvapilo snáď každého - rozhodol sa 10 miliónov dolárov z vlastných zdrojov vraziť do výskumu umelej inteligencie. Čo si Marek od umelej inteligencie sľubuje, ako vníma jej riziká a aký by chcel vidieť svet za 50 rokov, aj o tom nám porozprával v zaujímavom rozhovore.

Ahoj Marek, o tebe sa v posledných mesiacoch nahovorilo dosť – nie je úplne bežné, aby niekto zobral vlastných 10 miliónov a vrazil ich do svojej predstavy “lepšieho sveta”. Duplom nie na Slovensku. Aké boli reakcie tvojho okolia?

Kto ma pozná, vie, že mojím snom od detstva bol vývoj univerzálnej AI, takže to veľkým prekvapením nebolo. Vlastne som sa nestretol s nikým, kto by sa nad tým čo i len pozastavil.

 

Ty si teda so svojim Keen Software House najskôr vytváral hry, najznámejšie sú Space Engineers a Medieval Engineers. Ktorá z nich ti je srdcom bližšia?

Obe hry, Space Engineers aj Medieval Engineers, zdieľajú rovnakú technológiu a navzájom sa dopĺňajú nielen novými prvkami, funkciami, ale aj na báze komunitnej spätnej väzby. Ak by som si mal vybrať jednu, krivdil by som druhej. Na oboch sa aktívne pracuje každý deň a každý týždeň je obsah rozširovaný pravidelnými aktualizáciami. Space Engineers je pre mňa zaujímavá tým, že je zasadená do budúcnosti a teda ponúka viac kreatívnych možností. Na druhej strane Medieval Engineers je zaujímavá tým, že sa vracia do zidealizovanej minulosti a to je v hre príjemné.

V každom prípade ti však obe pomohli získať poriadne tučný kapitál, ktorý si sa rozhodol vraziť do svojho projektu GoodAI. Je to investícia alebo túžba zmeniť svet? Prípadne oboje?

Vytvoriť umelú inteligenciu bol mojim snom odjakživa, rovnako, ako robiť hry. Pred 20 rokmi som však nevidel komerčné využitie pre umelú inteligenciu, nevedel som, ako by som ten projekt mohol sám financovať, tak som začal s tvorbou hier, čo bola druhá vec ktorú som túžil robiť. A teraz sa nachádzam v unikátnej pozícii, kedy si môžem ísť za svojím dlhoročným snom. AI neberiem ako finančnú investíciu, AI je pre mňa nástroj, ktorým môžeme dosiahnuť ďalšie veľmi zaujímavé veci veľmi efektívnym spôsobom.

 

Projekt si oznámil v roku 2014 ako súčasť tvojho Keen Software House, ako samostatná jednotka funguje GoodAI až od júla 2015. Prečo si sa tak rozhodol?

Pôvodne na projekte GoodAI v rámci Keen Software House pracovali 2 – 3 výskumníci. Od júla 2015 sa však náš tím rozrástol natoľko, že sme boli pripravení predstaviť našu prácu medzi AI komunitou, ale už nie ako súčasť hernej spoločnosti, ale ako samostatná entita venujúca sa vývoju univerzálnej umelej inteligencie. A tým sme si úmyselne ušili na seba aj bič, aby sme sa motivovali a prinášali výsledky.

 

Je tvoj nový projekt zároveň podporou pre tvoje hry. Bude sa dať táto inteligencia do nich aplikovať?

Virtuálne prostredie je ideálne na rýchle testovanie a učenie sa. Začíname s jednoduchými hrami, kde si dokážeme pomerne rýchlo otestovať zložitosť prostredia, jeho štruktúru aj pravidlá. Plánom je AI potom integrovať aj do našich hier, ale samozrejme aj do ďalších produktov a služieb.

 

Prečo viaceré veľké korporácie a mnoho ľudí tak usilovne na umelej inteligencii pracuje? Čo nám má umelá inteligencia priniesť?

Osobne som prekvapený, že do vývoja univerzálnej umelej inteligencie neinvestuje viac spoločností vzhľadom na obrovskú návratnosť investície. Z tejto technológie budeme nakoniec ťažiť všetci – pokiaľ sa nám podarí zautomatizovať inteligenciu, budeme môcť zlepšiť všetky produkty a služby a zároveň objaviť úplne nové využitia, ktoré doteraz nemohli vzniknúť, pretože ľudská inteligencia nie je tak ľahko škálovateľná, ako bude tá umelá.

Pracuješ na vývoji “umelej mozgovej architektúry” schopnej prispôsobiť sa akémukoľvek prostrediu. Čo to v praxi znamená?

Našim cieľom je vyvinúť univerzálnu umelú inteligenciu, ktorá je chytrá, flexibilná a učenlivá ako človek. Úzko zamerané riešenia ako, povedzme, autá bez vodičov sú výborné v tom, na čo boli navrhnuté. Takáto technológia nie je použiteľná v iných odvetviach a ak má byť použiteľná v novom prostredí, vyžaduje veľa špecifických nastavení. My pracujeme na umelej inteligencii, ktorú je možné použiť v akomkoľvek odvetví.

Naša AI by mala mať vlastnosti ako učenie sa z malého množstva príkladov, generalizácia a potom špecializácie ako postupné učenie sa bez zabúdania, schopnosť aplikovať znalosti z jednej domény do druhej atď.

 

V akej fáze v súčasnosti GoodAI je? Dá sa vôbec odhadnúť, kde môže byť taký projekt povedzme za tri roky?

Sme veľmi spokojní s pokrokom od januára tohto roku, aj s našimi výsledkami; urobili sme niekoľko dôležitých krokov a plánujeme zverejniť vývojársku road mapu na nasledujúce obdobie. Prvé detaily som zverejnil na svojom blogu:http://blog.marekrosa.org/2015/12/goodai-r-roadmap-preview.html

V skratke: pracujeme na School for AI, v ktorej sa náš AI agent bude učiť postupným a riadeným procesom. Presne definované trénovacie a testovacie prostredie s jasne definovaným postupom nám umožňuje študovať kognitívne vlastnosti, ktoré sa bude náš AI agent musieť naučiť, aby v danom prostredí úspešne fungoval. Toto následne vedie k veľmi presným funkčným požiadavkám na náš AI systém. Toto celé predstavuje framework, ktorý nám umožní pokračovať systematicky dopredu, dopĺňať AI o schopnosť učiť sa stále zložitejšie a zložitejšie schopnosti.

 

Pred niekoľkými mesiacmi oznámil Elon Musk, že spolu so svojimi partnermi investujú miliardu dolárov do spoločnosti OpenAI. Bojí sa totiž, že by mohla umelá inteligencia prekročiť určité hranice. Dotknú sa ťa nejak tieto aktivity?

S OpenAI sa plánujeme pobaviť a prediskutovať ich technológiu, bezpečnosť, architektúru aj road mapu. Zaujíma nás, akou formou plánujú spolupracovať s komunitou podieľajúcou sa na vývoji univerzálnej umelej inteligencie, ktorú otvorene podporujeme. Takisto sme zvedaví na ich názor na bezpečnostné dopady open sourcouvanej AGI.

 

Taký Stephen Hawking tiež pred umelou inteligenciou varuje a obáva sa, že by ďalší progres mohol byť začiatkom konca ľudstva. Aký máš k tomu postoj?

Obavy a riziká sú na mieste, ale na druhej strane sú tu aj veľké pozitíva. Dôležité je, aby tieto pozitíva prevážili nad možnými rizikami. A to sa určite dá dosiahnuť. Vývoj univerzálnej umelej inteligencie neberieme na ľahkú váhu aj preto otvorene spolupracujeme so skupinami, ktoré sa zaoberajú jej bezpečnosťou (FLI, FHI, MIRI, atd.) a skúmajú spôsoby, ako udržať technológiu v rukách ľudí a v bezpečí. Avšak jedným z najväčších rizík by bolo nevyvíjať umelú inteligenciu; vždy ju môže vyvinúť niekto neznámy a potom to naši ľudia nebudú mať možnosť ovplyvniť.

Sami na v oblasti bezpečnosti AI riešime dva projekty: open sourcovanú AGI a bezpečná a plodná spolupráca medzi AGI inštitúciami. Obe tieto témy momentálne riešime a snažíme sa aj s ekonómami a odborníkmi na Game Theory (Herná teória) nájsť optimálny model.

Ty z toho vôbec nemáš strach? Ok, tvoje úmysly sú dobré, ale materiál sa môže dostať aj do nesprávnych rúk. Alebo môžeme stratiť nad ich rozvojom kontrolu.

Univerzálna AI pravdepodobne zmení náš svet od základov. Ide o technológiu s najväčším potenciálom a dopadom na ľudstvo. Osobne nabádam, aby čo najviac ľudí začalo o AI uvažovať už teraz a začali investovať do jej vývoja. Spojením úsilia a zdrojov môžeme vytvoriť budúcnosť, akú chceme.

 

A čo si o tom myslia ľudia v tvojom okolí? Viacerí sa boja, že by im “roboti” mohli v budúcnosti vziať prácu.

Ja sa osobne na to teším. Chcem, aby ľudia mali viac slobody a mohli si vybrať to, čo chcú robiť každý deň. Aby nechodili do práce, ktorá ich nebaví. Samozrejme, prechod na ekonomiku, kde za ľudí vykonávajú prácu stroje, nebude jednoduchý a mnohí sa môžu ocitnúť v nevýhode. Jedným z riešení by bolo v takomto prípade stanoviť základný príjem pre všetkých. Ja však verím, že čoraz viac ľudí začne investovať do umelej inteligencie a ťažiť z toho neskôr, keď bude táto technológia dostupná.

 

Ako si pri súčasnom vývoji predstavuješ svet v roku 2050 v ideálnom prípade?

Bezpečne sa nám podarilo vyvinúť a spustiť AGI, ktorá nám pomáha s ďaľším technologickým pokrokom. Inteligencia ako nastroj je tak dostupná pre každého a všade okolo nás. Postupne začíname riešiť počítače na nano (a nižšej) úrovni, za účelom efektívnejšieho využitia hmoty okolo nás. Do vesmíru štartujú prvé AGI rakety. Ľudia netrpia, choroby sú vyliečené, nikto neumiera. Ľudstvo začína pomaly spoznávať ďalšie a ďalšie tajomstvá fyzického vesmíru.

 

A keby si mal byť trochu realista? :)

Univerzálnu umelú inteligenciu môžeme vyvinúť za tri alebo 30 rokov. Ja dúfam, že to bude čoskoro. Viem si živo predstaviť svet, v ktorom sme vyriešili všetky dôležité otázky – starnutie, nevyliečiteľné choroby, globálne otepľovanie. Teším sa na obdobie, kedy bude možné cestovanie vo vesmíre a keď pochopíme (snáď všetky) záhady vesmíru.

Zdroj titulnej fotografie: facebook archív GoodAI

Najnovšie video

Najnovší podcast

Plavíš sa a na brehu horí ľudské telo, vedľa toho stojí krava. India je šialená

Najnovšie