L'OMS crée des normes IA pour la santé mentale

L'OMS lance un consortium sur l'éthique de l'IA en santé avec un accent sur la santé mentale

L'Université de technologie de Delft (TU Delft) aux Pays-Bas est devenue le premier Centre collaborateur de l'OMS pour la gouvernance de l'IA en santé, incluant les aspects éthiques. Cela marque le début du Consortium of Centres on AI and Health — un réseau d'instituts couvrant les six régions de l'OMS. L'objectif est de développer des normes unifiées pour l'utilisation de l'IA en médecine. La réunion inaugurale des candidats a eu lieu du 17 au 19 mars à Delft, où les participants ont convenu des priorités et des mécanismes de collaboration.

L'initiative découle d'un séminaire le 29 janvier en amont du India AI Impact Summit 2026 sous les auspices de l'OMS. Plus de 30 experts en IA, santé mentale, éthique et politique ont mis en lumière l'impact de l'IA générative sur le bien-être mental public. Une attention particulière a été accordée aux chatbots utilisés pour le soutien psychologique sans conception et tests appropriés.

Alain Labrique, directeur du Département de la santé numérique et de l'IA de l'OMS, a souligné : « L'IA interagit avec les utilisateurs dans des moments de vulnérabilité émotionnelle, les systèmes doivent donc être développés et régulés en gardant la sécurité à l'esprit. »

Recommandations pour évaluer les risques de l'IA sur la santé mentale

Les experts ont identifié trois priorités pour intégrer la santé mentale dans la régulation de l'IA :

• Évaluer l'impact de l'IA générative sur la santé mentale dans toute prise de décision, et pas seulement dans les applications de thérapie spécialisées.
• Surveiller les effets à long terme, y compris la dépendance émotionnelle aux systèmes d'IA.
• Développer des outils de soutien en santé mentale en collaboration avec des psychiatres, des personnes ayant une expérience vécue de troubles mentaux, y compris les jeunes, en tenant compte des différences culturelles et linguistiques.

Ces mesures s'appuient sur des recherches. Une étude parue dans le Journal of Medical Internet Research a montré que les jeunes de 18 à 25 ans à risque de psychose recourent plus fréquemment aux chatbots d'IA pour un soutien émotionnel et les anthropomorphisent, leur attribuant des rôles de thérapeute. Les chercheurs de TU Delft proposent de standardiser les protocoles de transfert en cas de crise : les chatbots doivent rediriger les utilisateurs en état aigu vers des spécialistes.

Couverture régionale et normes globales

Le consortium garantira la participation d'instituts de toutes les régions de l'OMS, en adaptant les normes aux besoins locaux. Il ne s'agit pas d'interdire l'IA en santé, mais de bâtir une base factuelle pour une gouvernance éthique. Pour les développeurs d'IA, cela implique un passage des normes nationales à des protocoles globaux, particulièrement en santé mentale.

Les entreprises technologiques devront tester les effets psychologiques. Par exemple, les chatbots pour conversations quotidiennes doivent inclure des mécanismes de détection de crises et d'escalade vers des professionnels. La mise en œuvre de tels protocoles réduit les risques liés à l'utilisation non contrôlée des modèles génératifs.

Points clés

• TU Delft est le premier centre du consortium OMS pour l'IA en santé, avec un accent sur l'éthique.
• L'IA générative impacte la santé mentale via l'utilisation hors indication des chatbots pour la thérapie.
• Recommandations : évaluation complète des risques, surveillance de la dépendance, développement collaboratif avec des experts.
• Des protocoles de transfert de crise sont nécessaires pour rediriger les utilisateurs vers des spécialistes.
• Le consortium couvrira les six régions de l'OMS pour des normes globales.

— Editorial Team