Hallucinations de l'IA en biologie : risques systémiques

Hallucinations de l'IA dans les modèles biologiques : causes et leçons pour les développeurs

Les modèles d'IA en biologie affichent une précision impressionnante sur les données de test, mais produisent souvent des prédictions biologiquement impossibles. Prenons un réseau de neurones pour prévoir les fonctions enzymatiques : il a brillé en validation, mais s'est effondré sous l'œil expert. Les développeurs doivent intégrer des vérifications rigoureuses des données et des garde-fous pour éviter ces faux positifs.

Les bases du succès et les pièges des données

Le succès d'AlphaFold repose sur la Protein Data Bank (PDB), construite depuis les années 1970, et le concours CASP avec validation experte. Sans ces étalons d'or, les modèles s'écrasent. Beaucoup de projets s'appuient sur les dossiers médicaux électroniques comme béquille, ignorant le manque de biomarqueurs récents et de données de laboratoire.

Un article de Nature Communications a entraîné un modèle sur 22 millions de séquences enzymatiques. Les métriques étaient parfaites : précision impeccable sur les ensembles d'entraînement, de validation et de test. Mais la microbiologiste Valérie de Crécy-Lagard a repéré des erreurs flagrantes dans des enzymes qu'elle étudiait depuis dix ans.

Défauts systémiques majeurs

L'audit a révélé des pièges classiques de l'IA en biologie :

• Fuite de données : 135 enzymes « nouvelles » étaient déjà dans les bases. Le modèle mémorisait, au lieu de prédire.
• Implausibilité biologique : Il attribuait à E. coli la synthèse de composés que cette bactérie ne peut pas produire.
• Suremplissage : Il assignait la même fonction à 12 enzymes sans rapport.

Ces dysfonctionnements se travestissent en science solide, passant au travers des cribles de relecture sans expertise de domaine.

Répercussions dans les applications réelles

Les biais systématiques des données amplifient les erreurs à grande échelle. L'app Zoe pour le COVID-19 a ignoré les symptômes du COVID long comme le brouillard mental et la fatigue, absents de sa liste. L'algorithme a gonflé les stats de guérison : les utilisateurs abandonnaient, et le modèle les déclarait « guéris ».

Fusionner des voies biologiques de sources incompatibles crée des cartes irréalistes. L'IA interpole sans comprendre les causalités cellulaires, générant des cascades d'hallucinations.

Les développeurs en bioinformatique se heurtent à ce mur en fusionnant des ensembles de données hétérogènes. Mélanger des voies issues d'articles sur des espèces différentes produit des modèles qui ne collent pas aux cellules réelles.

Conseils pratiques pour les développeurs intermédiaires et seniors

Pour minimiser les risques :

• Documentez la provenance des données : sources, limites et zones hors champ.
• Intégrez des audits experts aux étapes de validation, au-delà des simples métriques.
• Privilégiez les insights mécanistiques aux architectures de pointe.
• Testez la plausibilité biologique : simulations in silico plus vérifications en labo.
• Évitez les fuites de données avec des splits stratifiés et des ensembles de réserve de sources indépendantes.

Leçons principales

• Des données de qualité et des standards (PDB, CASP) forment la base du succès de l'IA en biologie.
• Fuites de données et suremplissage masquent les hallucinations derrière une fausse précision.
• Sans expertise de domaine, les modèles produisent du non-sens biologique.
• Investissez dans les mécanismes, pas seulement les métriques.
• La validation en laboratoire est indispensable pour la production.

L'IA est un outil puissant, mais pas un substitut à la connaissance biologique. Sans elle, la biotech risque de bâtir sur des illusions statistiques.

— Editorial Team