Modèle d'Atrophie de l'Agence dans la Délégation à l'IA

La dynamique de la dégradation de l'agence humaine à l'ère de la délégation à l'IA

L'agence humaine — la capacité à juger de manière indépendante — est sujette à l'atrophie lorsque les tâches sont trop largement déléguées à l'intelligence artificielle. Un modèle dynamique formel montre que même une délégation minimale du jugement (D_J > 0) entraîne un effondrement irréversible de l'agence (A → 0) sur des horizons de 15, 50 et 150 ans. Point clé : déléguer les calculs (D_C) provoque une atrophie 15 à 20 fois plus lente que déléguer le jugement.

Le modèle intègre des mécanismes neurobiologiques comme la pruning synaptique et la nature autocatalytique de l'agence, offrant ainsi des hypothèses testables pour la science cognitive et la sécurité des IA.

Distinction fondamentale : délégation des calculs vs délégation du jugement

La délégation des tâches à l’IA se divise en deux catégories orthogonales, chacune avec un taux d’atrophie distinct :

• Calculs (D_C) : recherche de données, optimisation, rédaction de brouillons. L’IA agit comme un outil nécessitant une vérification. L’atrophie est négligeable (β_C ≈ 0,05).
• Jugement (D_J) : choix d’options, fixation d’objectifs, évaluation des risques sans validation. Transition de l’auteur vers l’interface. Atrophie élevée (β_J ≈ 0,8).

Cette asymétrie découle des neurosciences : le jugement exige une intégration entre plusieurs régions cérébrales ; les calculs reposent sur des compétences localisées.

Formalisation de la dynamique de l'agence

L’agence A ∈ [0,1] est modélisée comme un processus autocatalytique :

\frac{dA}{dt} = A(1 - A) \cdot \big[ \alpha(1 - D_J) - \beta_J D_J - \beta_C D_C \big]

• Le facteur logistique A(1-A) borne A dans [0,1], avec sensibilité maximale à A=0,5.
• Terme positif α(1 - D_J) : entraînement par le jugement indépendant (α ≈ 0,1).
• Termes négatifs : atrophie due à D_J (β_J D_J) et D_C (β_C D_C).

Les paramètres reflètent des observations empiriques : β_J >> β_C en raison de la complexité du jugement.

Résultats de simulation sur différents horizons temporels

Modèle simulé avec A(0)=1 et D_J(0) variant de 0 % à 30 %.

Horizon de 15 ans

| D_J(0) | A(15) | Mode |

|--------|--------|----------------|

| 0 % | 0,98 | Conservation |

| 10 % | 0,97 | Conservation |

| 30 % | 0,92 | Conservation |

Illusion de stabilité : les pertes restent imperceptibles.

Horizon de 50 ans

| D_J(0) | A(50) | Mode |

|--------|--------|------------------|

| 5 % | 0,868 | Conservation |

| 10 % | 0,733 | Transition |

| 20 % | 0,343 | Effondrement |

| 30 % | 0,000 | Effondrement |

Seuil critique : 7,5–10 %.

Horizon de 150 ans

Tout D_J(0) > 0 % → A(150) = 0 (effondrement). Le seuil tend vers zéro.

La catastrophe lente : principaux enseignements

• Seule une D_J = 0 garantit la préservation de l’agence sur tous les horizons.
• Avec D_J > 0, l’effondrement est inévitable — le moment dépend du niveau : 30 % → 20–25 ans ; 5 % → 100–150 ans.
• D_C amplifie l’effet mais faiblement.

D_J n’est pas mesurée par le nombre de requêtes, mais par le poids cognitif (complexité × responsabilité × nouveauté).

Exemples de poids :

• Sélection d’un film : 0,1
• Courriel quotidien : 1
• Décision d’investissement : 10+

Implications pratiques pour la résilience cognitive

Le modèle génère des hypothèses actionnables :

• Niveau individuel : limiter D_J < 5 % selon le poids cognitif. Vérifier manuellement 95 %+ des jugements.
• Contexte professionnel : auditer les pratiques de délégation au sein des équipes (ex. : développement logiciel).
• Approche éducative : former au jugement via des protocoles « IA + critique humaine ».
• Conception sécurisée des IA : intégrer une « transparence du jugement » pour réduire la confiance sans vérification.

Test empirique : études longitudinales suivant A via des tâches (matrices de Raven + cas concrets) avant/après interaction avec l’IA.

Ce qui compte vraiment

• L’agence est un processus « utilise ou perds ».
• D_J >> D_C en termes de destructivité (β_J/β_C ≈ 16).
• L’effondrement est invisible à 15 ans mais inévitable après 50.
• Le seuil de D_J → 0 quand t → ∞.
• Mesurer D_J par charge cognitive, non par temps.

— Editorial Team