OMS crea estándares de IA para la salud mental

## La OMS forma consorcio de ética en IA en atención sanitaria con enfoque en salud mental

La Universidad de Tecnología de Delft (TU Delft) en los Países Bajos se ha convertido en el primer Centro Colaborador de la OMS para la gobernanza de la IA en la atención sanitaria, incluyendo aspectos éticos. Esto marca el inicio del Consorcio de Centros sobre IA y Salud, una red de institutos que cubre las seis regiones de la OMS. El objetivo es desarrollar estándares unificados para el uso de la IA en la medicina. La reunión inaugural de candidatos tuvo lugar del 17 al 19 de marzo en Delft, donde los participantes acordaron prioridades y mecanismos de colaboración.

La iniciativa surgió de un seminario el 29 de enero previo a la India AI Impact Summit 2026 bajo los auspicios de la OMS. Más de 30 expertos en IA, salud mental, ética y políticas destacaron el impacto de la IA generativa en el bienestar mental público. Se prestó especial atención a los chatbots utilizados para apoyo psicológico sin un diseño y pruebas adecuados.

Alain Labrique, director del Departamento de Salud Digital e IA de la OMS, enfatizó: La IA interactúa con los usuarios en momentos de vulnerabilidad emocional, por lo que los sistemas requieren desarrollo y regulación pensando en la seguridad.

Recomendaciones para evaluar los riesgos de la IA en la salud mental

Los expertos identificaron tres prioridades para integrar la salud mental en la regulación de la IA:

• Evaluar el impacto de la IA generativa en la salud mental en cualquier toma de decisiones, no solo en apps de terapia especializadas.
• Monitorear efectos a largo plazo, incluyendo la dependencia emocional de los sistemas de IA.
• Desarrollar herramientas de apoyo a la salud mental en colaboración con psiquiatras, personas con experiencia vivida de trastornos mentales, incluyendo jóvenes, teniendo en cuenta diferencias culturales y lingüísticas.

Estas medidas se basan en investigaciones. Un estudio en el Journal of Medical Internet Research encontró que los jóvenes de 18-25 años en riesgo de psicosis usan con mayor frecuencia chatbots de IA para apoyo emocional y los antropomorfizan, atribuyéndoles roles de terapeutas. Los investigadores de TU Delft proponen estandarizar protocolos de transferencia de crisis: los chatbots deben redirigir a los usuarios en estados agudos a especialistas.

Cobertura regional y estándares globales

El consorcio asegurará la participación de institutos de todas las regiones de la OMS, adaptando los estándares a las necesidades locales. Esto no es una prohibición de la IA en la atención sanitaria, sino la construcción de una base de evidencia para una gobernanza ética. Para los desarrolladores de IA, significa pasar de normas nacionales a protocolos globales, especialmente en salud mental.

Las empresas tecnológicas enfrentarán requisitos para probar efectos psicológicos. Por ejemplo, los chatbots para conversaciones cotidianas necesitan mecanismos para detectar crisis y escalar a profesionales. Implementar tales protocolos minimiza riesgos del uso no controlado de modelos generativos.

Puntos clave

• TU Delft es el primer centro del consorcio de la OMS para IA en atención sanitaria con énfasis en ética.
• La IA generativa afecta la salud mental a través del uso off-label de chatbots para terapia.
• Recomendaciones: evaluación integral de riesgos, monitoreo de dependencia, desarrollo colaborativo con expertos.
• Se necesitan protocolos de transferencia de crisis para redirigir usuarios a especialistas.
• El consorcio cubrirá las seis regiones de la OMS para estándares globales.

— Editorial Team