Ve skutečnosti: Světová zdravotnická organizace (WHO) vidí v generativní AI pomocníka při diagnóze, administrativě i výzkumu. Zároveň ale varuje, že jazykové modely vytvářejí nepravdivá, nepřesná nebo zaujatá tvrzení, která mohou pacientům ublížit. O léčbě má podle ní dál rozhodovat člověk, který za ni nese odpovědnost.

Odkud se mýtus bere

Jazykové modely dnes zvládnou složit lékařské zkoušky, vysvětlit výsledky krevních testů nebo navrhnout možné příčiny potíží. Lidé se jich na zdraví ptají běžně, protože odpovídají hned, kdykoli a zdarma. Odtud je jen krok k představě, že lékař v ordinaci bude brzy zbytečný.

I Češi v AI vidí pro medicínu příležitost. Podle průzkumu Centra pro výzkum veřejného mínění z letošního jara zmínilo vědu a medicínu jako přínos umělé inteligence 14 % lidí. Mezi přínosem a náhradou lékaře je ale velký rozdíl.

Co říká WHO

WHO vydala 18. ledna 2024 pokyny k etice a řízení velkých multimodálních modelů, tedy AI, která pracuje s textem, obrázky i videem. Dokument obsahuje přes 40 doporučení pro vlády, technologické firmy a poskytovatele zdravotní péče. Navazuje na obecnější pokyny WHO k AI ve zdravotnictví z června 2021.

WHO popisuje pět hlavních oblastí, kde může AI ve zdravotnictví pomoci:

• diagnóza a klinická péče, například odpovědi na písemné dotazy pacientů,

• použití samotnými pacienty, třeba při zjišťování příznaků a léčby,

• administrativa, jako je zápis a shrnutí návštěvy do elektronické dokumentace,

• výuka lékařů a sester, například simulace rozhovoru s pacientem,

• výzkum a vývoj léků, včetně hledání nových látek.

„Technologie generativní AI mají potenciál zlepšit zdravotní péči, ale jen pokud ti, kdo je vyvíjejí, regulují a používají, rozpoznají a plně zohlední související rizika.“

Jeremy Farrar, hlavní vědec WHO

Proč lékaře nenahradí

Hlavní problém je spolehlivost. Podle WHO jsou zdokumentovaná rizika, že modely vytvářejí nepravdivá, nepřesná, zaujatá nebo neúplná tvrzení, která mohou poškodit lidi, když se podle nich rozhodují o zdraví. Modely se navíc mohou učit z nekvalitních dat nebo z dat zatížených předsudky podle rasy, původu, pohlaví nebo věku.

WHO upozorňuje i na takzvanou automatizační předpojatost. Lékaři i pacienti mohou mít sklon věřit stroji víc, než by měli. Přehlédnou pak chyby, které by jinak odhalili, nebo stroji nechají těžká rozhodnutí, která mu nepatří. Další riziko představují kybernetické útoky, které by mohly ohrozit data pacientů.

Medicína navíc není jen diagnóza. Lékař pacienta vyšetří, zná jeho historii, posoudí, co je pro něj v dané situaci nejlepší, vysvětlí mu to a nese za rozhodnutí právní odpovědnost. Nic z toho jazykový model udělat nemůže. Podle WHO mají být AI systémy ve zdravotnictví navrženy pro dobře vymezené úkoly s potřebnou přesností a spolehlivostí, ne jako náhrada celé profese.

Kde AI lékařům pomůže

Největší přínos má AI tam, kde lékaře zdržuje. Zápis z návštěvy, vyplňování dokumentace nebo shrnutí dlouhé zdravotní historie zabírají čas, který by lékař mohl věnovat pacientům. WHO tuto oblast uvádí mezi hlavními způsoby využití. Další jsou výuka a výzkum, kde AI pomáhá třeba s hledáním nových léčivých látek.

WHO chce, aby se do vývoje zdravotnické AI od začátku zapojovali nejen vědci a inženýři, ale i lékaři, zdravotníci a pacienti. Vlády by podle ní měly pověřit regulační úřad posuzováním a schvalováním AI pro zdravotnictví a zavést povinné nezávislé audity, když se model nasadí ve velkém.

Co to znamená pro vás

AI chat můžete použít k tomu, abyste lépe porozuměli diagnóze, připravili si otázky na lékaře nebo si nechali vysvětlit odborné výrazy ve zprávě. Nepoužívejte ho ale jako náhradu vyšetření a nerozhodujte podle něj o léčbě nebo lécích. Google v nápovědě ke Gemini výslovně píše, že se na jeho výstupy nemáte spoléhat jako na lékařskou radu. Do bezplatných chatů také nevkládejte zdravotní dokumentaci se jménem a rodným číslem.

Zdroje: WHO: AI ethics and governance guidance for large multi-modal models (2024), CVVM (6/2026), Google: Tips to write prompts for Gemini. Foto: Unsplash.