3,3 milióna lajkov na videu, ktoré malo byť odfiltrované. Instagram zlyháva v základnej ochrane mladých

Instagram sľuboval bezpečné prostredie pre mladých používateľov, no nezávislé vyšetrovanie odhalilo závažné nedostatky v ochranných mechanizmoch. Napriek špeciálnym nastaveniam pre tínedžerov sa im zobrazuje nevhodný obsah vrátane vulgarizmov a propagácie škodlivých návykov, informuje portál DigitalTrends.

Koncom roka 2024 spoločnosť Meta predstavila špeciálne účty pre tínedžerov na Instagrame. Išlo o bezpečnostnú sieť určenú na ochranu mladých používateľov pred citlivým obsahom, s automatickým nastavením na súkromný profil, skrývaním urážlivých slov a blokovaním správ od neznámych osôb.

Meta sa pritom nedávno pochválila úspechom svojich bezpečnostných opatrení. Podľa ich vyhlásenia používa účty pre tínedžerov celosvetovo najmenej 54 miliónov aktívnych používateľov, pričom 97 % tínedžerov vo veku 13 – 15 rokov zostáva v predvolených obmedzeniach.

Spoločnosť dokonca oznámila nové ochrany, ktoré zakážu tínedžerom mladším ako 16 rokov vysielať naživo bez súhlasu rodičov, a rozšírenie týchto bezpečnostných funkcií aj na Facebook a Messenger. V prieskume zadanom Metou údajne až 94 % amerických rodičov uviedlo, že tieto účty považujú za užitočné.

Nezávislé vyšetrovanie organizácií Design It For Us a Accountable Tech však odhalilo, že tieto ochranné opatrenia nefungujú podľa sľubov. Počas dvojtýždňového testovania piatich účtov patriacich tínedžerom sa všetkým zobrazoval nevhodný obsah, a to aj napriek povolenému filtru citlivého obsahu.

„Približne 80 % obsahu v mojom feede sa týkalo vzťahov alebo vulgárnych vtipov. Tento obsah sa vo všeobecnosti vyhýbal tomu, aby bol úplne explicitný, ale zároveň ponechával len veľmi málo priestoru pre predstavivosť,“ uviedol jeden z testerov.

Znepokojujúce zistenia

Podľa 26-stranovej správy až 55 % nahláseného obsahu predstavovalo se*uálne akty, se*uálne správanie a se*uálne snímky. Takéto videá nazbierali tisíce lajkov, pričom jedno z nich získalo viac ako 3,3 milióna pozitívnych reakcií.

Algoritmus Instagramu tiež propagoval obsah podporujúci škodlivé koncepty ako „ideálne“ typy tela, hanobenie tela a nezdravé stravovacie návyky. Štyri z piatich testovacích účtov tínedžerov dostávali algoritmické odporúčania na obsah spojený s poruchami príjmu potravy.

Ďalším znepokojujúcim zistením boli videá propagujúce konzumáciu alkoholu a nabádajúce používateľov k užívaniu steroidov a doplnkov na dosiahnutie určitého typu postavy. Až 80 % účastníkov testovania uviedlo, že pri používaní účtov Instagram Teen zažili nepríjemné pocity.

Nenávistný obsah a násilie

Napriek tvrdeniam spoločnosti Meta o filtrovaní problematického obsahu sa testovacím účtom zobrazoval aj rasistický, homofóbny a mizogýnny obsah. Takéto videá opäť získali milióny lajkov.

Na účty dospievajúcich boli zverejnené aj videá zobrazujúce násilie so strelnými zbraňami a domáce násilie. „Niektoré z našich testovacích účtov tínedžerov nedostali predvolenú ochranu Meta. Žiaden účet nedostal kontrolu citlivého obsahu a niektoré nedostali ochranu pred urážlivými komentármi,“ dodáva sa v správe.

ChatGPT ti pomôže s nakupovaním: Vyskúšali sme novú funkciu, ktorá šetrí peniaze a uľahčí výber

Nejde o prvý prípad, kedy sa Instagram a ďalšie platformy spoločnosti Meta dostali do problémov kvôli nevhodnému obsahu. V roku 2021 úniky informácií odhalili, ako spoločnosť Meta vedela o škodlivom vplyve Instagramu, najmä na mladé dievčatá, ktoré sa potýkali s problémami duševného zdravia a vnímania tela.

Pred niečo vyše mesiacom spoločnosť rozšírila svoju ochranu pre tínedžerov aj na Facebook a Messenger, no aktuálne zistenia spochybňujú účinnosť týchto opatrení.

Reakcia Mety

Vo vyhlásení pre denník The Washington Post spoločnosť Meta tvrdila, že zistenia správy sú chybné, a bagatelizovala citlivosť označeného obsahu.

„Vymyslená správa nemení nič na fakte, že desiatky miliónov tínedžerov majú teraz bezpečnejší zážitok vďaka účtom na Instagrame pre tínedžerov,“ uviedol hovorca spoločnosti Meta. Dodal však, že spoločnosť sa zaoberá problematickými odporúčaniami obsahu.

Čítaj viac z kategórie: Technológie a internet