Budování AI pro lepší zdravotnictví — OpenAI Podcast Ep. 14

Zdravotnictví je dnes v mnoha zemích pod silným tlakem. Lékaři a sestry mají méně času, pacienti bývají odpojeni od potřebné péče a systémy často selhávají tam, kde by měla převládat prevence před reakcí. Jako autor se zabývám tím, jak umělá inteligence (AI) může tyto problémy zmírnit. V tomto článku vysvětlím, jak se vyvíjejí zdravotnické modely, jak se trénují a hodnotí, s jakými výzvami se potýkají, a jaké konkrétní přínosy už dnes přinášejí pacientům, lékařům a celým organizacím.

Obsah

• Počátky zájmu o zdravotnictví 😊
• Strategie: pro pacienty i pro lékaře 🩺
• Jak se trénují modely pro zdravotnictví 🧠
• Proč modely často vedou v testech zdravotnických evaluací 🏆
• Hlavní výzvy a překážky ⚠️
• Skutečné nasazení a experimenty: příklad klinického asistentu v Nairobi 🌍
• Spolupráce s ekosystémem: EHR, wearables a standardy 🤝
• Praktické a každodenní použití: kde už AI pomáhá dnes 🧩
• Největší „wow“ momenty ✨
• Co říkají lékaři a uživatelé — zpětná vazba z praxe 🔎
• Jak by se měli připravit zdravotnické organizace 🚀
• Závěrem: příležitost pro spravedlivější a efektivnější zdravotnictví 🧾

Počátky zájmu o zdravotnictví 😊

Začal jsem sledovat, jak se kombinují dvě velké oblasti: zdravotní politika a strojové učení. Pro mnohé, kteří vstupují do zdravotnictví, je motivací snaha o širší přístup k péči. Pro jiné, kteří studovali umělou inteligenci a filozofii mysli, je motivací možnost zásadního pozitivního dopadu technologií na lidské životy. Karan Singhal, který vede výzkum zdravotnické AI, mluvil o tom, že ho k oboru přivedly myšlenky o inteligenci a potenciálu AGI, a že chtěl uplatnit znalosti bezpečnosti a ochrany soukromí právě v medicíně. Nate Gross, vedoucí zdravotního týmu, k tomu přidal praktickou zkušenost z medicíny a zájem o zdravotní politiku, který vedl až na kliniky velké veřejné nemocnice.

Tato kombinace — hluboké technické poznání plus klinická zkušenost — je podle mě zásadní. Když se technologie navrhuje bez kontaktu s klinickou praxí, často selhává v detailech, které rozhodují o bezpečnosti a užitečnosti. Naopak úzká spolupráce s praktickými lékaři pomáhá nasměrovat vývoj směrem k tomu, co opravdu zlepšuje výsledky léčby a přístup k péči.

Strategie: pro pacienty i pro lékaře 🩺

Můj pohled na strategii nasazení AI ve zdravotnictví klade důraz na rovnováhu mezi dvěma aspekty: bezpečností a dostupností. Systematické nasazení by mělo dvě věci zvládnout současně — zajistit, aby byla komunikace citlivá a bezpečná, a zároveň umožnit pacientům a zdravotníkům mít k dispozici inteligentní nástroj, který rozumí kontextu.

Jedním z jasných driverů je poptávka: lidé se ptají na zdravotní otázky u konverzačních modelů čím dál častěji. Podle interních údajů ChatGPT je až jedna čtvrtina dotazů týkajících se zdraví v průběhu týdne. To představuje obrovskou příležitost, ale i odpovědnost — pokud lidé dostávají rady od modelů, musí to být rady bezpečné, citlivé a přizpůsobené konkrétnímu kontextu.

Hlavní prvky strategie:

• Bezpečnost a šifrování: konverzace obsahující zdravotní data musí být oddělené, šifrované a nesmí být použity pro další trénink modelu bez výslovného svolení.
• Context-aware odpovědi: modely by měly pamatovat kontext, kterého se uživatel rozhodne sdílet, aby odpovědi nebyly "jedna velikost pro všechny".
• Uživatelská kontrola: pacienti mají rozhodovat, co se sdílí a s kým.
• Integrované workflow: nástroje musí odpovídat potřebám klinických pracovních toků i každodenního života pacientů.

„Pacienti jsou často ponecháni 364 dní v roce bez příležitosti angažovat se se zdravotnickými organizacemi, které drží centralizované informace.“

Tento citát dobře vystihuje problém: pacienta obvykle vidíme na návštěvě, dostaneme doporučení a potom často následuje dlouhé období bez podpory. AI může tuto mezeru vyplnit — ne jako náhrada lékaře, ale jako stálý doplněk, který udržuje kontext a podporuje dodržování plánů péče.

Jak se trénují modely pro zdravotnictví 🧠

Proces vytváření modelu, který může bezpečně a přesně pracovat s citlivými zdravotními dotazy, je víc než jen shromáždit data a "naučit" síť. V jádru leží promyšlená metodika hodnocení, spolupráce s odborníky a cílené zlepšování chování modelu.

Klíčové součásti tréninku a evaluace, které považuji za zásadní:

• Spolupráce s kliniky: kolektiv přibližně 250 lékařů participoval na tvorbě hodnotících dat, návrhu scénářů a ladění metrik. Tato spolupráce zahrnovala i klinické případy a více než 5 000 konverzací vytvořených experty.
• HealthBench: specializovaný evaluační framework, který hodnotí chování modelu v realistických vícekolových rozhovorech. Měří stovky či desítky tisíc aspektů (zmiňováno až 48 500 kritérií a 49 000 rozměrů výkonu).
• Rubriky zaměřené na klinickou užitečnost: modely se hodnotí nejen podle faktické přesnosti, ale i podle přizpůsobení komunikace uživateli (pacient vs. odborník), schopnosti ptát se na potřebný kontext, rozpoznání nejistoty a vhodnosti eskalace k člověku.
• Nastavení chování: nejistota a eskalace: modely se učí, kdy říct „nevím“ nebo navrhnout další kroky, jako jsou testy, doporučení specialisty nebo vyhledání up-to-date zdrojů.
• Opakované dolaďování: po začlenění lékařských poznámek a rubric se provádí další fáze tréninku, zpětné vazby a datových akvizic, aby model lépe zvládal konkrétní sub-specializace nebo regionální rozdíly v léčbě.

Tento postup znamená, že hodnocení není formální test typu „udělal jsi X bodů na zkoušce“. Místo toho se zaměřujeme na reálné interakce: jak by model komunikoval s pacientem, kdy by vyhledal další kontext a kdy by doporučil lidi nebo zdroje. To je podle mě podstatný krok směrem k bezpečnému nasazení.

Proč modely často vedou v testech zdravotnických evaluací 🏆

Pochopení, proč některé modely vynikají v hodnoceních, vyžaduje nahlédnout do celého procesu vývoje. Nejde jen o to, jak velká nebo sofistikovaná je architektura, ale především o to, jak systém integruje zdravotnické požadavky do všech fází vývoje.

Hlavní faktory úspěchu:

1. Integrace zdravotních cílů napříč cyklem: od předtrénování přes mid-trénink až po finální ladění a monitorování v produkci. Pokud je klinické zaměření součástí každé fáze, model lépe chápe nuance oboru.
2. Cross-funkční tým: experti na bezpečnost, zdravotníci, výzkumníci a inženýři spolupracují tak, aby hodnocení i nasazení byly prováděny vědomě a opatrně.
3. Realistické, multi-turn scénáře: modely se zkouší na dlouhých konverzacích, nikoli jen na krátkých faktických dotazech, což lépe simuluje reálné použití v péči.
4. Monitoring v reálném čase: produkční provoz je monitorován bezpečnostními metrikami v privátním režimu, aby se chyby nebo nečekané vzory chování řešily okamžitě.

Když jsou tyto součásti nasazeny zároveň, modely dokážou lépe zvládat citlivé konverzace, přizpůsobit úroveň detailu a především vědět, kdy je čas zapojit lidského odborníka.

Hlavní výzvy a překážky ⚠️

I když úspěchy jsou působivé, cesta k bezpečnému a širokému použití AI ve zdravotnictví není bez překážek. Zde jsou klíčové oblasti, které musíme řešit:

1) Důvěra a aktuálnost znalostí

Lékaři potřebují věřit, že odpovědi AI jsou nejen přesné, ale i založené na nejnovějších doporučeních a literatuře. Různé regiony a instituce mají odlišné postupy a dostupné zdroje. Proto musí systém umět kombinovat citlivé informace pacienta s aktuálními lokálními i mezinárodními vodítky.

2) Fragmentace dat a systémy v zázemí

Zdravotnické systémy jsou často siloované. Často se potkávají analogové záznamy, lokální EHR, staré systémy mimo cloud i moderní digitální platformy. Sjednotit data tak, aby je mohl inteligentní model použít smysluplně a bezpečně, je technicky i organizačně náročné.

3) Ochrana soukromí a pravidla

Je nezbytné mít robustní mechanismy pro bezpečné sdílení dat, zásady, které zamezí tréninku na citlivých údajích bez svolení, a splňovat regulační požadavky (např. HIPAA, GDPR v kontextu EU). Transparentní komunikace, že uživatelská data nebudou použita pro trénink bez výslovného souhlasu, je klíčová pro budování důvěry.

4) Post-deployment monitoring a hodnocení pracovních toků

Model může v laboratorním testu vypadat výborně, ale skutečná přidaná hodnota se ukáže až při nasazení do konkrétních pracovních toků. Musíme měřit, jestli AI snižuje chyby, zlepšuje výsledky pacientů nebo šetří čas. K tomu slouží randomizované studie, následné sledování a úzká spolupráce s klinickými partnery.

5) Regulace a etika

Regulační prostředí se vyvíjí a s ním i nároky na certifikaci, auditovatelnost rozhodnutí a vysvětlitelnost. Etické otázky, například spravedlivý přístup ke službám, minimalizace biasu v datech a nezávislý dohled, musí být řešeny paralelně s technologickým vývojem.

Skutečné nasazení a experimenty: příklad klinického asistentu v Nairobi 🌍

Jedním z konkrétních příkladů, který považuji za důležitý, byla spolupráce s Penda Health v Nairobi. V devíti typech klinik a přibližně 20 klinických pracovištích byla nasazena AI jako klinický co-pilot, který sledoval záznamy v EHR a zasahoval pouze tehdy, když systém rozpoznal potenciální chybu nebo doplnění, které by mohlo ovlivnit diagnózu či léčbu.

Hlavní výsledky byly povzbudivé:

• Statisticky významné snížení diagnostických a terapeutických chyb u klinik využívajících AI oproti kontrolní skupině.
• Obrovský zájem o pokračování projektu — někteří partneři se zdráhali pokračovat v dalším randomizovaném testu, protože cítili, že by bylo nebezpečné neumožnit části týmu přístup k nástroji.
• Tento typ „safety net“ přístupu, kde AI nenahrazuje, ale doplňuje klinika a zasahuje jen vybraně, je podle mě správným způsobem nasazení v prostředích s omezenými zdroji.

Tento případ ukázal, že pokud AI dobře zapadne do pracovního procesu a očekávání klinik jsou jasně komunikována, nástroj může rychle přinést hmatatelné zlepšení.

Spolupráce s ekosystémem: EHR, wearables a standardy 🤝

Jedna z nejdůležitějších věcí, které musím zdůraznit, je nutnost otevřené spolupráce napříč sektorem. To zahrnuje:

• Práci s dodavateli EHR a s vládními orgány na standardech pro bezpečné a snadné synchronizování zdravotních záznamů.
• Integraci s wearables a spotřebitelskými zdravotnickými aplikacemi tak, aby uživatelé mohli jedním či dvěma klepnutími sdílet kontext (např. spánek, aktivitu, glukózu) s asistentem, pokud si to přejí.
• Budování API a konektorů, které umožní, aby AI mohla pracovat s heterogenními zdroji bez kompromisů v oblasti soukromí a bezpečnosti.

Pro pacienty to znamená, že inteligentní asistent může v budoucnu zohlednit data z chytrých hodinek, prstýnků, laboratorních výsledků a klinických záznamů a vytvořit personalizovanou doporučovací logiku. Nemá jít o to nahradit hlubší analýzu specializovaných aplikací, ale o to, aby model uměl tyto specializované vstupy konzumovat a využít při běžných rozhodnutích pacienta — třeba co si dát k večeři nebo jak plánovat den vzhledem k léčebnému režimu.

Praktické a každodenní použití: kde už AI pomáhá dnes 🧩

Uvedu konkrétní příklady využití, které jsou dostupné nyní nebo blízko nasazení:

• Symptom triage a základní návody: modely umějí navádět pacienta, jak postupovat při akutních symptomech, kdy hledat urgentní pomoc a kdy je rozumné počkat či dohodnout si návštěvu u obvodního lékaře.
• Podpora medikace: připomínky, kontroly možných interakcí, vysvětlení vedlejších účinků přizpůsobené úrovni uživatele.
• Asistence v ambulanci: při psaní poznámek do EHR, sumarizaci anamnézy nebo návrhu struktury doporučení pro pacienta, čímž se šetří čas lékařů.
• Pomoc s plánováním péče: připomínky na testy, nákup léků, sledování adherence a návrhy realistických úprav životního stylu.
• Rozšířená interpretace dat z wearables: např. zhodnocení kvalitativního obrazu spánku, aktivity a jejich dopad na náladu nebo glykemii.
• Komunikace přístupná všem: adaptivní literární úroveň, kdy model dokáže vysvětlit komplikovaná medicínská rozhodnutí pacientovi na třetí třídě úrovně čtení nebo v odborné terminologii pro kolegu specialistu.

Příklad ilustrující význam správného chování modelu: pokud uživatel napíše „it burns“ (bolí/pálí), správná odpověď modelu často není okamžitě nabízet diagnózu. Užitečnější a bezpečnější je požádat o více kontextu — odkud to pálí, jaké jsou další symptomy, trvání, závažnost. To je přesně typ chování, který se učíme a hodnotíme v reálných scénářích.

Největší „wow“ momenty ✨

Existuje několik momentů, které mi dávají důvod být optimistický:

• Rychlá adopce: zdraví a wellness patřily mezi nejrychleji rostoucí použití konverzačních modelů. Tato poptávka ukazuje, že lidé jsou připraveni využívat AI při správě svého zdraví.
• Nové poznatky díky modelům: výzkumné týmy začaly objevovat nové způsoby, jak využít existující léky pro konkrétní pacientské skupiny. To jsou případy, kdy AI pomohla identifikovat možnosti, které lidé dříve přehlédli.
• Opravdový dopad v terénu: příklady, kdy AI skutečně snížila počet chyb nebo zrychlila diagnostiku v akutních případech, jsou pro mě nejsilnější motivací.
• Oproti lidským řidičům — analogie bezpečnosti: jedna z analogií, kterou často používám, je pocit bezpečí při jízdě vedle autonomního vozidla, které dodržuje pravidla lépe než lidský řidič. Můj cíl je, aby AI ve zdravotnictví působila podobně — jako ochranná síť, která zvyšuje bezpečnost rozhodnutí.

Tyto momenty ukazují, že AI může postupně přejít z kuriozity na praktický nástroj, který zlepšuje výsledky a rozšiřuje přístup k péči.

Co říkají lékaři a uživatelé — zpětná vazba z praxe 🔎

Zpětná vazba, kterou slyším od klinik a uživatelů, je směsice nadšení, úlevy a realistického očekávání. Několik opakujících se motivů:

• Úleva z administrativy: lékaři oceňují, když AI pomůže snížit množství papírování a standardních úkonů, které zabírají čas, aniž by zlepšovaly léčbu.
• Rozšíření kapacit: v prostředích s omezenými zdroji může AI fungovat jako asistent, který zajišťuje základní kontrolu a navrhne další kroky, čímž zvyšuje dostupnost odborných znalostí.
• Obava z přehnané důvěry: někteří odborníci upozorňují, že je důležité nastavit jasné hranice, kde končí role AI a kde musí zásadní rozhodnutí provést člověk.
• Emocionální dopad: pečovatelé a rodiny pacientů často pociťují úlevu, když mají k dispozici konzultanta, který je po ruce 24/7 a pomůže jim orientovat se v komplikovaných informacích.

Jeden silný příběh, který byl sdílen, je pacient, u kterého po letech nejasné diagnózy došlo k rychlejší identifikaci problému díky přezkoumání historie a navrženým experimentům od týmu využívajícího AI. Tyto méně časté, ale výrazné „miracle stories“ podtrhují potenciál AI jako amplifikátoru diagnostické práce, když je nasazena uvážlivě.

Jak by se měli připravit zdravotnické organizace 🚀

Pro organizace, které zvažují integraci AI, mám několik doporučení založených na zkušenostech z pilotních projektů:

1. Začněte s pracovním tokem, ne s technologií. Identifikujte reálný problém — vysoká administrativní náročnost, časté chyby v konkrétním procesu, nebo potřeba podpory v diagnostice — a zvažte, jak AI může přidat hodnotu.
2. Zapojte klinické týmy od začátku. Lékaři, sestry i administrativní pracovníci musí mít možnost definovat požadavky, testovat nástroje a ověřovat výsledky.
3. Buďte transparentní vůči pacientům. Informujte o tom, jak jsou data zpracovávána, kde jsou uložena a zda má AI přístup k EHR. Získávejte informovaný souhlas tam, kde je to nutné.
4. Měřte skutečné výsledky. Neomezujte se na technické metriky. Hodnoťte míru chyb, doby čekání, adherenci k léčbě a spokojenost pacientů i personálu.
5. Plánujte kontinuální monitoring. Nasazení není konec — sledujte chování systému, analyzujte anomálie a aktualizujte modely podle nových poznatků.

Závěrem: příležitost pro spravedlivější a efektivnější zdravotnictví 🧾

Jsem přesvědčený, že umělá inteligence má dnes jedinečnou šanci zlepšit dostupnost a kvalitu zdravotní péče. Ne jako zázračný nástroj, který vše vyřeší bez lidského dozoru, ale jako robustní doplněk, který rozšiřuje dosah odborných znalostí, odstraňuje rutinní zátěž a dává pacientům i lékařům informace v čase, kdy jsou nejvíce potřeba.

Klíčové zásady, které bych zdůraznil, jsou:

• Bezpečnost a ochrana soukromí musí být základem každé implementace.
• Spolupráce s kliniky je nezbytná pro vytvoření systému, který chápe reálné potřeby péče.
• Hodnocení v reálném provozu — měřit dopad na pacienty a zdravotnický personál je nezbytné.
• Transparentnost a souhlas pacientů — lidé musí mít kontrolu nad svými údaji a vědět, jak jsou využívány.

Pokud budeme tyto principy mít na paměti, vidím před sebou budoucnost, kde AI skutečně zvýší podlahu pro péči dostupnou všem, odlehčí lékařům od administrativy a vyšplhá úroveň možností, které medicína dokáže nabídnout. Jsem nadšený z příležitostí, které přináší inteligentní asistenční systémy, a věřím, že pokud budeme pokračovat v opatrné a odpovědné práci, dokážeme s pomocí AI zlepšit životy milionů lidí.

---