Umelá inteligencia si sama uznala, že nie je neomylná. Zachráni to milióny životov

Umelá inteligencia vie analyzovať dáta a hľadať súvislosti, ktoré človeku unikajú. Na základe toho situácie vyhodnocuje. Najnovšia neurónová sieť je však schopná vyhodnotiť aj to, že niektoré situácie nevie na 100% vyhodnotiť a ešte si to aj sama prizná.

Keď teda napríklad umelá inteligencia v autonómnom aute vyhodnotí, že prejazd je bezpečný, vie o tom, že nemá všetky informácie, ktoré potrebuje a že človek tomuto rozhodnutiu nemôže na sto percent veriť. To môže predísť množstvu chybných odpovedí nielen v autách, ale aj pri využití umelej inteligencie v medicíne.

Vedia to, na čo my nemáme kapacitu

Rýchlosť, s akou sa hýbe vývoj moderné technológie, nás nenecháva na pochybách o ľudskej genialite. Tú s jej širokým spektrom nenapodobiteľných vlastností nie je možné nahradiť strojom. V niektorých prípadoch však umelá inteligencia dokáže omnoho viac, ako omylný človek. Vďaka vlastným rozhodnutiam umelej inteligencie môžu vedci čoskoro zachrániť množstvo životov.

Vedci z MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) dokázali vytvoriť novú neurónovú sieť pre umelú inteligenciu. Tá funguje na veľmi presných procesoch podobných tým, ktoré prebiehajú v našom mozgu. Ich úlohou je aj vyhodnocovanie pravdivosti situácií a obrazov na základe zvažovania množstva faktorov. V kvante vstupných údajov je schopná AI spozorovať vzorce, ktoré ľudia nie sú schopní analyzovať, informuje Science Alert.

Slovenská firma zahanbila aj Microsoft! Predstavila revolučný systém strojového 3D videnia

Umelú inteligenciu už v dnešných dňoch môžeš nájsť rozhodovať v oblastiach, ktoré ovplyvňujú ľudské životy, ako je autonómne riadenie a lekárska diagnostika. To znamená, že je nevyhnutné, aby bola čo najpresnejšia. Novovytvorený neurónový systém môže problematike výrazne napomôcť generovaním vlastných predikcií a hodnotením pravdivosti a možnej chybovosti odpovedí.

„Potrebujeme mať nielen vysoko výkonné modely, ale aj porozumieť, kedy týmto modelom nemôžeme dôverovať,“ hovorí počítačový vedec Alexander Amini z MIT Computer Science and Artificial Intelligence Laboratory (CSAIL).

Podobné, ako samoriadiace auto

Vedecký tím ho porovnáva so samoriadiacim autom s viacerými úrovňami vyhodnocovania situácií. Napríklad, či má ísť cez križovatku, alebo radšej čakať, len pre prípad, že dostupné dáta v neurónovej sieti nie sú dostatočné, alebo, inak povedané, môžu v AI vyvolať predpoklad klamlivého vyhodnotenia situácie.

Neurónová sieť obsahuje dokonca aj tipy na zvýšenie pravdivosti hodnotenia (napríklad vylepšením vstupných údajov). Podobné ochranné mechanizmy boli zabudované v AI už predtým, tento sa však odlišuje v rýchlosti, akou pracuje. Rovnako sa tak deje bez nároku na zvýšenie výkonu. To znamená, že vďaka danej sieti je schopná AI vyhodnotiť pravdivosť situácie omnoho detailnejšie a rýchlejšie, ako by to bol schopný spraviť človek či iné, už existujúce, stroje.

„Táto myšlienka je dôležitá a pre našu prax cenná,“ hovorí počítačová vedkyňa Daniela Rus. „Vieme ju využiť na hodnotenie už existujúcich modelov a systému fungovania AI. Odhadom neistoty naučeného modelu sa tiež dozvieme, koľko chýb od neho môžeme očakávať, a aké chýbajúce údaje by ho mohli vylepšiť.“

zdroj: MIT/2020/neural-network-uncertainity

Vedela oznámiť, kedy sa mýli

Vedci testovali schopnosti novej siete na určovaní hĺbky povrchov rôznych vizualizácií, podobne, ako je to pri vyhodnocovaní vzdialenosti v prípade samoriadiacich áut. Nielen, že bola táto sieť schopná vyhodnotiť 99% situácií, respektívne hĺbok správne, hlavným úspechom je, že bola schopná oznámiť neistotu vo svojom vyhodnocovaní.

Tá bola zároveň daným chýbajúcim percentom úspešnosti, kedy stroj mohol vyhodnotiť situáciu chybne. Rovnako tak vedel upozorniť na situácie, ktoré nemá v kompetencii, teda nie je nastavený primárne na ich hodnotenie. Tento citlivý mechanizmus by mohol byť využitý hlavne v medicínskom prostredí ako odľahčenie práce lekárov.