Pacientku šokovali jej lekárske záznamy zverejnené na internete, objavila ich umelá inteligencia

Súkromie je v dnešnej dobe relatívnym pojmom. Naše fotografie sú verejné, v ruke permanentne držíme zariadenie, ktoré je schopné sledovať našu polohu a algoritmy pozorne sledujú, akým človekom vlastne sme.

Každý by však snáď čakal, že stále existujú situácie a miesta, kde je o naše súkromie postarané. Realita však môže byť úplne iná. Presvedčila sa o tom aj pacientka, ktorá sa rozhodla svoju skúsenosť zdieľať na internete.

Nepríjemné prekvapenie

LAION-5B je set verejne dostupných obrázkov, ktorý je určený na tréning umelej inteligencie. AI si tieto obrázky prejde, porovná a týmto spôsobom sa naučí lepšie rozpoznávať ich obsah, vysvetľuje portál Futurism.

Pre umelkyňu vystupujúcu pod menom Lapine preto bolo obrovským šokom, keď počas „hrabania sa“ v databáze objavila fotky svojej tváre. Ešte prekvapivejší bol fakt, že fotky nepochádzali zo žiadnej sociálnej siete, ale z lekárskeho záznamu takmer spred 10 rokov.

„V roku 2013 môj doktor odfotografoval moju tvár ako súčasť mojej zdravotnej dokumentácie,“ vysvetľuje Lapine v príspevku na sociálnej sieti Twitter. „Doktor umrel v roku 2018 a nejakým spôsobom moje fotografie skončili online,“ dodáva ďalej.

🚩My face is in the #LAION dataset. In 2013 a doctor photographed my face as part of clinical documentation. He died in 2018 and somehow that image ended up somewhere online and then ended up in the dataset- the image that I signed a consent form for my doctor- not for a dataset. pic.twitter.com/TrvjdZtyjD

— Lapine (@LapineDeLaTerre) September 16, 2022

Umelkyňa túto skutočnosť považuje za mimoriadne znepokojivú, pretože „súhlas podpísala len so svojím doktorom, a nie obrázkovým setom“.

Ako sa tam dostali?

Pri hlbšom pohľade do tejto problematiky sa však prípad stáva ešte záhadnejším. Bolo by ľahké obviniť samotný dataset za to, že bez oprávnenia využil fotografiu pacientky, no jeden z vývojárov setu akýmkoľvek obvineniam oponuje.

„Laion v skutočnosti obrázky neukladá,“ vysvetlil podľa portálu Futurism vo verejnej diskusii. „Najľahším spôsobom, ako dostať obrázok preč z databázy, je obrátiť sa na stránku, ktorá obrázok na internet nahrala a požiadať ich o jeho stiahnutie,“ dodal ďalej.

zdroj: Freepik/angkhan

Samotný Laion totižto využíva metódu tzv. „net-scrapingu“, čo v skratke znamená, že internet postupne „prečesáva“ a zbiera akýkoľvek druh obsahu. Nie je však možné vystopovať, kde konkrétny lekársky záznam našiel.

Lapine ďalej uvádza, že v tej istej databáze objavila mnoho ďalších „citlivých obrázkov“. Zdá sa teda, že Lapine nie je jedinou obeťou uverejnenia obdobných záznamov či informácií.

Miliardy záznamov

Ako však informuje portál TechCrunch, realita môže byť ešte oveľa horšia, než „zopár ďalších obrázkov v datasete“. Na internet je údajne pridaných vyše milióna medicínskych záznamov denne a ich celkový počet sa môže pokojne vyšplhať aj k miliarde.

Medzi tieto záznamy môžu patriť napríklad röntgenové snímky, snímky z magnetickej rezonancie či dokonca ultrazvuky. Tento stav je pravdepodobne výsledkom prístupu nemocníc či iných zdravotných zariadení, ktoré si vedú online databázu, no jej zabezpečeniu nevenujú príliš veľkú pozornosť.

TechCrunch dodáva, že úroveň zabezpečenia je u nemocničných databáz taká nízka, že sa do nej dokáže dostať hocikto, kto má „zariadenie s možnosťou pripojenia sa na internet“.

Nie je preto nepredstaviteľné, že podobný problém mohol nastať aj v situácii s datasetom LAION-B5, ktorý dokáže byť pri svojom prehliadaní webov dôkladný a záznamami poškodenej pacientky.

zdroj: Unsplash/Matt Mech

Problematike sa venovala aj nemecká bezpečnostná firma Greenbone Networks, ktorá uviedla, že väčšina lekárov využíva vo svojich databázach formát s názvom DICOM, ktorý už je starý niekoľko desaťročí.

DICOM umožňuje ukladanie viacerých obrázkov v jednom priečinku, pre jeho ľahšie zdieľanie, avšak môžu byť sprístupnené hocikým, kto má k dispozícii aplikáciu, ktorá dokáže tento formát „prečítať“.

Lekári pritom často tieto databázy uchovávajú na separátnom serveri, ktorý je napojený priamo na internet a neobsahuje žiadne heslo či šifrovanie.

Jeden z komentátorov pod spomínaným príspevkom na Twitteri však upozornil, že „chyba“ mohla nastať aj na strane doktora, ktorý spomenuté fotografie využil v správe o prípade, ktorá bola ďalej zverejnená v medicínskom magazíne.