WHO vytváří standardy AI pro duševní zdraví

# WHO vytváří konsorcium pro etiku AI v zdravotnictví se zaměřením na duševní zdraví

Technická univerzita v Delftu (TU Delft) v Nizozemsku se stala prvním spolupracujícím centrem WHO pro řízení AI v zdravotnictví, včetně etických aspektů. To položilo základ pro vytvoření Konzorcia center pro AI a zdraví – sítě institutů pokrývající všech šest regionů WHO. Cílem je vývoj jednotných standardů pro použití AI v medicíně. Zahajovací setkání kandidátů proběhlo 17.–19. března v Delftu, kde účastníci dohodli priority a mechanismy spolupráce.

Iniciativa vznikla po semináři 29. ledna před India AI Impact Summit 2026 pod záštitou WHO. Více než 30 expertů na AI, duševní zdraví, etiku a politiku zdůraznilo vliv generativní AI na veřejné duševní blaho. Zvláštní pozornost věnovali chat-botům používaným pro psychologickou podporu bez odpovídajícího návrhu a testování.

Alain Labrique, ředitel oddělení WHO pro digitální zdraví a AI, zdůraznil: AI interaguje s uživateli v momentech emoční zranitelnosti, proto systémy vyžadují vývoj a regulaci s ohledem na bezpečnost.

Doporučení pro hodnocení rizik AI pro psychiku

Experti vyzdvihli tři priority pro integraci duševního zdraví do regulace AI:

• Hodnotit vliv generativní AI na psychiku při jakémkoli rozhodnutí, nejen ve specializovaných aplikacích pro terapii.
• Monitorovat dlouhodobé účinky, včetně emoční závislosti na systémech AI.
• Vyvíjet nástroje duševní podpory ve spolupráci s psychiatry, lidmi s zkušenostmi s psychickými poruchami, včetně mládeže, s ohledem na kulturní a jazykové rozdíly.

Tyto opatření vycházejí z výzkumů. Studie v Journal of Medical Internet Research ukázala, že mládež ve věku 18–25 let ohrožená psychózou častěji používá chat-boty AI pro emoční podporu a antropomorfizuje je, přisuzuje jim roli terapeuta. Výzkumníci TU Delft navrhují standardizaci protokolů pro přesměrování v krizích: chat-boty by měly v akutních stavech předat uživatele odborníkům.

Regionální pokrytí a globální standardy

Konsorcium zajistí zapojení institucí ze všech regionů WHO a přizpůsobí standardy místním potřebám. Nejde o zákaz AI v zdravotnictví, ale o vytvoření důkazové báze pro etické řízení. Pro vývojáře AI to znamená přechod od národních norem k globálním protokolům, zejména v oblasti duševního zdraví.

Technologické společnosti budou čelit požadavkům na testování psychologických účinků. Například chat-boty pro každodenní komunikaci potřebují mechanismy pro odhalení krizí a eskalaci k profesionálům. Implementace takových protokolů minimalizuje rizika spojená s nekontrolovaným použitím generativních modelů.

Co je důležité

• TU Delft – první centrum konsorcia WHO pro AI v zdravotnictví s důrazem na etiku.
• Generativní AI ovlivňuje duševní zdraví prostřednictvím necílového použití chat-botů pro terapii.
• Doporučení: komplexní hodnocení rizik, monitorování závislosti, společný vývoj s experty.
• Nutné jsou protokoly pro přesměrování v krizích pro předání uživatelů odborníkům.
• Konsorcium pokryje šest regionů WHO pro globální standardy.

— Editorial Team