Sam Altman priznal zlyhanie: OpenAI vedela o podozrivom už mesiace vopred. Políciu na rizikového používateľa neupozornila

  • Sam Altman sa ospravedlnil za svoj podiel zodpovednosti
  • OpenAI mala informovať políciu
  • Tragédii sa tak možno dalo predísť
Sam Altman sa ospravedlnil
  • Sam Altman sa ospravedlnil za svoj podiel zodpovednosti
  • OpenAI mala informovať políciu
  • Tragédii sa tak možno dalo predísť
ČLÁNOK POKRAČUJE POD REKLAMOU

Sam Altman, generálny riaditeľ technologickej spoločnosti OpenAI,  sa ospravedlnil komunite v kanadskom meste Tumbler Ridge. Reagoval tak na kritiku po tom, čo firma neupozornila políciu na problematické správanie používateľa chatbota s umelou inteligenciou. Účet patril 18-ročnému mladíkovi, ktorý vo februári spáchal streľbu s tragickými následkami. Pri útoku zahynulo osem ľudí vrátane detí a učiteľky, uvádza CNN

Spoločnosť priznala, že účet identifikovala už mesiace pred útokom a následne ho zablokovala. Informácie však v tom čase neposlala orgánom činným v trestnom konaní.

Tragédia, ktorá zasiahla malé kanadské mesto

Streľba sa odohrala vo februári v meste Tumbler Ridge v provincii Britská Kolumbia. Podľa policajných informácií 18-ročný Jesse Van Rootselaar najprv zastrelil svoju matku Jennifer Jacobsovú a 11-ročného nevlastného brata v rodinnom dome.

Následne sa presunul do miestnej strednej školy, kde začal strieľať. Pri útoku zahynulo ďalších šesť ľudí vrátane detí a učiteľky. Dvadsaťpäť osôb utrpelo zranenia.

Podozrivý útočník po streľbe spáchal samovraždu. Po tragédii vyšlo najavo, že jeho online aktivitu zaznamenala spoločnosť OpenAI, ktorá prevádzkuje populárne systémy umelej inteligencie, uvádza Guardian

Kto je Sam Altman

Sam Altman je americký podnikateľ a technologický manažér, známy najmä ako generálny riaditeľ spoločnosti OpenAI, ktorá vyvíja systémy umelej inteligencie vrátane ChatGPT. Narodil sa 22. apríla 1985 v Chicagu v USA.

Altman začal podnikať už počas štúdia na Stanfordovej univerzite. V roku 2014 sa stal prezidentom startupového akcelerátora Y Combinator, ktorý pomohol rozbehnúť stovky technologických firiem.

V roku 2015 spoluzaložil OpenAI s cieľom vyvíjať umelú inteligenciu bezpečne a v prospech ľudí. Pod jeho vedením sa spoločnosť stala jedným z najvplyvnejších hráčov v oblasti umelej inteligencie, píše na svojom blogu

Firma účet zablokovala, ale políciu nekontaktovala

OpenAI uviedla, že účet mladíka identifikovala už v júni minulého roka prostredníctvom interných nástrojov na odhaľovanie zneužívania služieb. Podľa firmy obsah naznačoval podporu násilných aktivít.

Mala Open AI informovať policajné zložky?

Spoločnosť účet zablokovala pre porušenie pravidiel používania. Zároveň však rozhodla, že dostupné informácie v tom čase nespĺňali kritériá na postúpenie prípadu polícii. Generálny riaditeľ Sam Altman sa za toto rozhodnutie neskôr ospravedlnil v liste adresovanom komunite.

„Hlboko ma mrzí, že sme neupozornili orgány činné v trestnom konaní na účet, ktorý bol v júni zablokovaný,“ napísal Altman. Dodal, že si uvedomuje, že slová nemôžu zmierniť tragédiu, ktorá zasiahla rodiny obetí.

Reakcia kanadských predstaviteľov

Altmanov list zverejnil premiér Britskej Kolumbie David Eby. Podľa neho je ospravedlnenie potrebné, no zároveň nedokáže nahradiť straty, ktoré komunita utrpela. „Ospravedlnenie je nevyhnutné, no zároveň hrubo nedostatočné vzhľadom na skazu, ktorá bola spôsobená rodinám v Tumbler Ridge,“ uviedol Eby.

Podľa premiéra sa objavili otázky, či technologická spoločnosť nemohla tragédii predísť, ak by informovala bezpečnostné orgány skôr. Altman v liste uviedol, že bol v posledných mesiacoch v kontakte so starostom mesta Darrylom Krakowkom aj s predstaviteľmi provincie.

Sam Altman diskutuje o bezpečnosti umelej inteligencie

Prípad otvoril širšiu diskusiu o tom, akú zodpovednosť majú technologické firmy pri monitorovaní správania používateľov umelej inteligencie. Odborníci upozorňujú, že spoločnosti musia hľadať rovnováhu medzi ochranou súkromia používateľov a prevenciou násilných činov.

OpenAI uviedla, že chce v budúcnosti intenzívnejšie spolupracovať s vládami a regulačnými orgánmi. Cieľom má byť lepšie vyhodnocovanie rizikových situácií a včasné upozorňovanie na možné hrozby.

Tragédia v Tumbler Ridge ukazuje, že rozvoj umelej inteligencie prináša nielen nové technologické možnosti, ale aj nové bezpečnostné otázky. Verejnosť aj vlády čoraz častejšie požadujú, aby technologické spoločnosti niesli väčšiu zodpovednosť za spôsob, akým sú ich systémy používané.

Diskusia o pravidlách pre umelú inteligenciu a o spolupráci s bezpečnostnými zložkami preto pravdepodobne bude v nasledujúcich rokoch ešte intenzívnejšia.

Čítaj viac z kategórie: Biznis a startupy

Zdroje: CNN, The Guardian, Blog Sam Altman

Najnovšie videá

Trendové videá