OpenAI prichádza s veľkou novinkou. Unikátny režim pomôže v krízach, dohliadalo naň 260 lekárov

Keď držíme papier s výsledkami od lekára, v mnohých prípadoch nerozumieme skratkám a v hlave nám často naskakujú hrôzostrašné scenáre. V tej chvíli mnohí z nás otvárajú ChatGPT.

OpenAI tvrdí, že každý týždeň mu položí otázky týkajúce sa zdravia viac než 230 miliónov ľudí po celom svete. A práve na tento masový zvyk teraz spoločnosť reaguje novinkou s názvom ChatGPT Health.

Čo prináša ChatGPT Health?

Zásadnou zmenou, ktorú ChatGPT Health prináša, je oddelenie zdravotných konverzácií od bežných chatov. OpenAI tým rieši jeden z najcitlivejších problémov umelej inteligencie. Zdravotné informácie majú iný charakter než otázky o práci, cestovaní či technológiách. Sú osobné, emocionálne a často spojené so strachom.

ChatGPT Health vytvára vyhradený priestor, kde sa tento kontext uchováva izolovane a bez rizika, že sa nečakane objaví v úplne inej konverzácii, uvádza portál TechCrunch. Ak používateľ začne riešiť zdravotný problém mimo tejto sekcie, systém ho má aktívne presmerovať do Health.

Ešte dôležitejšia než samotná štruktúra je práca s dátami. ChatGPT Health umožňuje prepojenie s vybranými zdravotnými a wellness aplikáciami, ako sú Apple Health, MyFitnessPal či Function. Model môže pracovať s konkrétnymi údajmi o pohybe, strave, spánku alebo výsledkoch vyšetrení.

Zahraničné médiá, vrátane portálu The Verge, upozorňujú aj na partnerstvo OpenAI s platformou b.well, ktorá sprostredkúva prístup k zdravotným záznamom od tisícov poskytovateľov zdravotnej starostlivosti v USA. To otvára cestu k personalizovanejším odpovediam, ale zároveň kladie vysoké nároky na ochranu súkromia.

Práve dôvera sa v prípade ChatGPT Health stáva kľúčovým slovom. OpenAI deklaruje, že zdravotné konverzácie nepoužíva na trénovanie svojich základných modelov. Tieto dáta sa majú spracúvať v oddelenom režime, s vlastnými pamäťami a bezpečnostnými mechanizmami. Používateľ má mať možnosť tieto pamäte kontrolovať, mazať a kedykoľvek odpojiť externé aplikácie.

Testovanie s lekármi z celého sveta

OpenAI zároveň jasne nastavuje hranice. ChatGPT Health nemá diagnostikovať ani liečiť. Slúži ako podpora, nie ako náhrada lekára. Odborníci upozorňujú, že veľké jazykové modely pracujú s pravdepodobnosťou, nie s pravdou. Vedia teda pôsobiť presvedčivo aj vtedy, keď sa mýlia.

Odborné štúdie publikované v časopisoch ako Nature Medicine či JAMA opakovane upozorňujú, že bez jasných mantinelov môžu AI systémy šíriť nepresnosti, najmä pri interpretácii symptómov a odporúčaniach ďalších krokov.

OpenAI sa snažila túto slabinu vyvážiť procesom vývoja. Tvrdí, že ChatGPT Health vznikol v úzkej spolupráci s viac ako 260 lekármi zo 60 krajín, pričom spätná väzba zahŕňala stovky tisíc hodnotení.

Výsledkom je hodnotiaci rámec HealthBench, ktorý kladie dôraz na zrozumiteľnosť a schopnosť včas odporučiť odbornú pomoc. Inými slovami, systém sa má naučiť rozpoznať moment, keď už ďalšie vysvetľovanie nestačí.

Zahraničné diskusie však upozorňujú na možné riziká. The Verge píše, že nový model neponúka end to end šifrovanie a stále podlieha platným právnym požiadavkám na sprístupnenie dát.

Do hry vstupuje aj regulácia. Americký Úrad pre kontrolu potravín a liečiv (FDA) v poslednom období otvorene rieši generatívnu AI v zdravotníctve, najmä pri nástrojoch, ktoré sa správajú ako terapeut alebo ponúkajú intervencie bez dohľadu odborníka. Materiály z rokovania poradného výboru opisujú riziká individuálnych interakcií, nesprávnej interpretácie a potrebu ochranných mantinelov.

V Európe vstupuje do platnosti Akt o umelej inteligencii, ktorý zavádza nové povinnosti pre systémy pracujúce s citlivými údajmi a interakciami s občanmi. Aj preto OpenAI zatiaľ sprístupňuje ChatGPT Health postupne a mimo niektorých jurisdikcií.

Čítaj viac z kategórie: Inovácie a Eko