Gemini, ChatGPT a ďalší AI asistenti zlyhávajú: Štúdia odhalila vážne nedostatky s presnosťou informácií

Vedúci platformy asistentov umelej inteligencie nesprávne chápu obsah spravodajských správ takmer v polovici odpovedí. Ukázal to nový prieskum, ktorý v stredu zverejnila Európska vysielacia únia (EBU). Informuje o tom web Reuters.

Medzinárodný prieskum sa pozrel na 3-tisíc odpovedí na otázky, ktoré sa týkali spravodajstva, od vedúcich asistentov umelej inteligencie. Tým majú na mysli softvérové aplikácie, ktoré používajú AI na pochopenie príkazov v materinskom jazyku.

Vzorka asistentov zahŕňa napríklad ChatGPT, Gemini, Perplexity a aj Copilot. Výskum hodnotil presnosť, zdroje a schopnosť rozlíšiť medzi názorom a faktom, a to dokonca v 14 jazykoch z celého sveta.

AI stále halucinuje

Celkovo, až 45 percent odpovedí od AI platforiem mali aspoň jeden značný problém, zatiaľ čo 81 percent malo nejaký druh problému, píše sa vo výskume. Reuters naviazal kontakt s týmito spoločnosťami, aby získala reakcie.

Umelá inteligencia vstupuje aj do našich ambulancií. Lekárom šetrí hodiny denne

Gemini, asistent umelej inteligencie od spoločnosti Google, na svojej stránke v minulosti uviedol, že víta spätnú väzbu. Chce tak vylepšovať platformu a urobiť ju tak prospešnejšou pre používateľov.

Spoločnosti OpenAI a Microsoft, ktoré spravujú AI platformy ChatGPT a Copilot, uviedli, že halucinácie sú problémom, ktorý sa snažia vyriešiť. Halucinácie sú názov aktu, keď modely umelej inteligencie generujú nesprávne alebo zavádzajúce informácie. Dôvodom je vraj často nedostatok údajov o téme.

Platforma Perplexity, ktorá je súkromne vlastnená, na svojej webovej stránke uvádza, že jej režim s názvom „Deep Research“ má 93,9 % presnosť, pokiaľ ide o fakty.

Babišova vláda ešte nevznikla a už má prvý škandál. Motorista Turek mu robí vrásky

Zdrojovanie je zrejme hlavný problém

Až tretina odpovedí týchto AI asistentov obsahovala vážne chyby v zdrojovaní. Príkladom sú podľa štúdie chýbajúce, zavádzajúce alebo nesprávne pripísané zdroje. Najhoršie je na tom v tejto súvislosti zrejme Gemini od spoločnosti Google.

Okolo 72 percent odpovedí Gemini malo závažné problémy so zdrojovaním, v porovnaní s menej ako 25 percentami u ostatných asistentov umelej inteligencie. Problémom je však aj presnosť.

Problémy s presnosťou našli v 20 percentách odpovedí všetkých spomínaných platforiem, a to vrátane aj neaktuálnych informácií. Príkladom sú nesprávne tvrdenia od Gemini o zmene v zákone o jednorazových elektronických cigaretách, ktorá sa nikdy nestala.

Podobné bludy mal aj ChatGPT, ktorý tvrdil, že súčasným pápežom je František, ktorý je už niekoľko mesiacov mŕtvy. Súčasným pontifikom je Leo XIV.

Merkelová rozhnevala Poľsko a Pobaltie. Krajiny jej vyčítajú postoj k Rusku

Je umelá inteligencia spoľahlivá? 

Prieskumu sa zúčastnilo 22 verejnoprávnych mediálnych organizácií z 18 krajín, vrátane Francúzska, Nemecka, Španielska, Ukrajiny, Veľkej Británie a Spojených štátov. S trendom nahrádzania bežných vyhľadávacích webov, ako je Google alebo Bing, umelou inteligenciou môže podľa EBU zmenšiť dôveru verejnosti v médiá.

„Keď ľudia nevedia, čomu môžu veriť, dopadne to tak, že nakoniec neveria vôbec ničomu, čo môže odradiť od účasti na demokracii,“ uviedol vo vyhlásení mediálny riaditeľ EBU Jean Philip De Tender.

„Sme nadšení z umelej inteligencie a z toho, ako nám môže pomôcť priniesť ešte viac hodnoty našim divákom,“ uviedol Peter Archer, programový riaditeľ BBC pre umelú inteligenciu, o čom informuje web DW. „Ľudia však musia vedieť dôverovať tomu, čo čítajú, sledujú a vidia. Napriek niektorým zlepšeniam je jasné, že asistenti majú stále významné problémy,“ dodal.

Podľa správy Reuters Institute Digital News Report 2025 asi sedem percent zo všetkých internetových poberateľov spravodajstva a 15 percent ľudí vo veku do 25 rokov používa AI na získavanie spravodajských správ.

Nová správa je aj výzvou pre spomínané spoločnosti, ktoré sa zaoberajú umelou inteligenciou, aby niesli zodpovednosť a zlepšili spôsob, akým ich AI asistenti reagujú na otázky týkajúce sa správ a spravodajstva.

Čítaj viac z kategórie: Zahraničie