WHO gründet KI-Ethik-Konsortium im Gesundheitswesen mit Fokus auf psychische Gesundheit
Die Technische Universität Delft (TU Delft) in den Niederlanden ist das erste WHO-Kollaborationszentrum für KI-Governance im Gesundheitswesen, einschließlich ethischer Aspekte. Dies markiert den Beginn des Konsortiums der Zentren für KI und Gesundheit – ein Netzwerk von Instituten, das alle sechs WHO-Regionen abdeckt. Das Ziel ist die Entwicklung einheitlicher Standards für den Einsatz von KI in der Medizin. Das konstituierende Treffen der Kandidaten fand vom 17. bis 19. März in Delft statt, wo die Teilnehmer Prioritäten und Kooperationsmechanismen festlegten.
Die Initiative ging von einem Seminar am 29. Januar aus, das im Vorfeld des India AI Impact Summit 2026 unter der Schirmherrschaft der WHO stattfand. Über 30 Experten für KI, psychische Gesundheit, Ethik und Politik beleuchteten die Auswirkungen generativer KI auf das psychische Wohlbefinden der Öffentlichkeit. Besondere Aufmerksamkeit galt Chatbots, die für psychologische Unterstützung ohne angemessenes Design und Testen eingesetzt werden.
Alain Labrique, Direktor der Abteilung für Digitale Gesundheit und KI der WHO, betonte: KI interagiert mit Nutzern in Momenten emotionaler Verletzlichkeit, daher müssen Systeme mit Sicherheitsaspekten entwickelt und reguliert werden.
Empfehlungen zur Bewertung von KI-Risiken für die psychische Gesundheit
Die Experten identifizierten drei Prioritäten für die Integration der psychischen Gesundheit in die KI-Regulierung:
- Bewertung der Auswirkungen generativer KI auf die psychische Gesundheit bei jeder Entscheidungsfindung, nicht nur in spezialisierten Therapie-Apps.
- Überwachung langfristiger Effekte, einschließlich emotionaler Abhängigkeit von KI-Systemen.
- Entwicklung von Hilfsmitteln für psychische Gesundheit in Zusammenarbeit mit Psychiatern, Betroffenen mit persönlicher Erfahrung psychischer Erkrankungen, einschließlich Jugendlicher, unter Berücksichtigung kultureller und sprachlicher Unterschiede.
Diese Maßnahmen basieren auf Forschungsergebnissen. Eine Studie im Journal of Medical Internet Research ergab, dass Jugendliche im Alter von 18–25 Jahren mit Psychoserisiko häufiger AI-Chatbots für emotionale Unterstützung nutzen und sie vermenschlichen, indem sie ihnen Therapeutenrollen zuschreiben. Forscher der TU Delft schlagen vor, Krisenübergabeprotokolle zu standardisieren: Chatbots sollten Nutzer in akuten Zuständen an Fachleute weiterleiten.
Regionale Abdeckung und globale Standards
Das Konsortium wird die Beteiligung von Instituten aus allen WHO-Regionen sicherstellen und Standards an lokale Bedürfnisse anpassen. Es handelt sich nicht um ein Verbot von KI im Gesundheitswesen, sondern um den Aufbau einer Evidenzbasis für ethische Governance. Für KI-Entwickler bedeutet das einen Wechsel von nationalen Normen zu globalen Protokollen, insbesondere im Bereich psychische Gesundheit.
Tech-Unternehmen werden Anforderungen an Tests psychologischer Effekte stellen. Chatbots für Alltagsgespräche benötigen beispielsweise Mechanismen zur Krisenerkennung und Eskalation an Profis. Die Umsetzung solcher Protokolle minimiert Risiken aus unkontrolliertem Einsatz generativer Modelle.
Wichtige Punkte
- TU Delft ist das erste WHO-Konsortiumszentrum für KI im Gesundheitswesen mit Schwerpunkt Ethik.
- Generative KI wirkt sich auf die psychische Gesundheit durch Off-Label-Nutzung von Chatbots für Therapie aus.
- Empfehlungen: umfassende Risikobewertung, Überwachung von Abhängigkeiten, kollaborative Entwicklung mit Experten.
- Krisenübergabeprotokolle sind erforderlich, um Nutzer an Fachleute weiterzuleiten.
- Das Konsortium deckt alle sechs WHO-Regionen für globale Standards ab.
— Editorial Team
Noch keine Kommentare.