AI je nebezpečná, bije na poplach Musk a 1 000 odborníkov. Žiadajú pre ňu „stopku“

  • Vyše 1 000 odborníkov sa podpísalo pod list, v ktorom žiadajú o zastavanie vývoja umelej inteligencie
  • Nebezpečenstvo podľa nich predstavuje pre celú civilizáciu
musk, umela inteligencia
Pixabay/ geralt TASR/AP Photo/Jae C. Hong
  • Vyše 1 000 odborníkov sa podpísalo pod list, v ktorom žiadajú o zastavanie vývoja umelej inteligencie
  • Nebezpečenstvo podľa nich predstavuje pre celú civilizáciu

Nedávno sme ťa informovali, že o nebezpečenstve umelej inteligencie otvorene hovorí čoraz viac odborníkov a osobností, medzi nimi aj Bill Gates. Teraz sa k nim pridalo viac ako 1 000 odborníkov na umelú inteligenciu a mnoho ďalších osobností vrátane najbohatšieho človeka, Elona Muska.

V otvorenom liste požadujú pozastavenie ďalšieho vývoja umelej inteligencie, a to silnejšej ako nedávno predstavený model GPT-4 od spoločnosti OpenAI. Dôvodom je, že takýto pokročilý model by vraj mohol predstavovať nebezpečenstvo pre celú civilizáciu.

Ďalší vývoj až po uvedomení si rizík

„Výkonné systémy umelej inteligencie by sa mali vyvíjať až vtedy, keď si budeme istí, že ich účinky budú pozitívne a ich riziká budú zvládnuteľné,“ uvádzajú signatári v liste.

Ďalej sa v ňom uvádza, že toto pozastavenie vývoja by malo byť platné, dokedy nebudú vypracované, implementované a nezávislými odborníkmi kontrolované spoločné bezpečnostné protokoly pre vývoj takejto umelej inteligencie, ako na to upozorňuje agentúra Reuters.

„Tieto protokoly by mali zabezpečiť, aby systémy, ktoré ich dodržiavajú, boli bez akýchkoľvek pochybností bezpečné,“ píše sa v liste, ktorý vydala nezisková organizácia Future of Life Institute.

Umelá inteligencia
zdroj: pixabay/sujins

Medzi signatármi je podpísaný okrem Elona Muska aj Steve Wozniak, spoluzakladateľ spoločnosti Apple, či Evan Sharp, spoluzakladateľ spoločnosti Pinterest. Aj oni upozorňujú na to, aké nebezpečenstvá predstavujú systémy umelej inteligencie schopné konkurovať ľuďom pre samotnú spoločnosť a civilizáciu, preto vyzývajú na okamžitú spoluprácu regulačných úradov a vývojárov týchto softvérov.

„Spoločnosť si dala pauzu v prípade iných technológií s potenciálne katastrofickými účinkami na spoločnosť, môžeme tak urobiť aj v tomto prípade,“ uzatvárajú odborníci v liste. 

K obavám sa pridáva aj Europol

Okrem už spomínaných významných mien sa k etickým a právnym obavám v súvislosti s pokročilou umelou inteligenciou, ako je ChatGPT, pridal aj policajný zbor EÚ Europol, ktorý varuje pred potencionálnym zneužitím takýchto systémov pri pokusoch o phishing či pri počítačovej kriminalite.

„ChatGPT môže poskytnúť zločincom nové príležitosti, najmä pri trestných činoch zahŕňajúcich sociálne inžinierstvo, vzhľadom na jeho schopnosti reagovať na správy v kontexte a prijať špecifický štýl písania,“ píše Europol vo svojej správe.

„Takéto vyhlásenia majú za cieľ vyvolať rozruch. Majú v ľuďoch vyvolať obavy,“ uviedla Johanna Björklundová, výskumníčka v oblasti umelej inteligencie a docentka na univerzite v Umeå, pre Reuters. Pričom podľa nej nie je nutné rázne zastaviť vývoj AI, radšej by sa mali požadovať prísnejšie požiadavky na transparentnosť.

Naopak Carlos Perez, odborník na umelú inteligenciu, si myslí, že sa ako spoločnosť musíme naučiť, ako účinne riadiť riziká spojené s umelou inteligenciou. „Úspech tejto petície bude poučením, že máme politickú vôľu riadiť osud ľudstva. Neúspech petície bude neúspechom v snahe o globálne ľudské riadenie AI,“ napísal Perez na Twitteri.

Zdroje: Reuters, Futureoflife, Europol

Najnovšie videá

Teraz najčítanejšie

Aktuálne čítajú

Trendové videá