Explicabilité de l'IA : La méthode de Dostoïevski

Explicabilité de l'IA : Le méthode de Dostoïevski pour les réseaux neuronaux

Les modèles d'IA modernes deviennent de plus en plus complexes, ce qui les rend difficiles à interpréter. Bruce Schneier insiste sur le fait que les systèmes doivent non seulement fournir des réponses, mais aussi expliquer leur raisonnement en termes compréhensibles par l’humain. Cette transparence est essentielle pour instaurer la confiance, détecter les interférences malveillantes et respecter les normes réglementaires.

Ce défi n’est pas nouveau. La pensée humaine échappe souvent à la logique pure — des intuitions comme celle de Mendeleïev lors de la découverte du tableau périodique sont difficiles à formuler. Dostoïevski a connu un problème similaire, en documentant publiquement son propre processus de réflexion pour clarifier sa démarche.

La méthode de Dostoïevski dans Le Journal d’un écrivain

De 1876 à 1881, Dostoïevski a publié un journal mensuel. Il analysait les médias, commentait les faits et critiquait les arguments d’autrui. Un élément central était l’analyse métacognitive : décrire son propre processus de pensée tout en le confrontant à celui des autres.

Il identifiait des distorsions systématiques de la réalité :

• Le mensonge désintéressé : des personnes honnêtes mentent inconsciemment, persuadées de dire la vérité. Ortega y Gasset a décrit cet « homme nouveau » qui rejette les experts avec une confiance inébranlable.
• La négation intéressée des faits : dans son article Le Monde russe, des critiques ont nié toute implication étudiante dans l’affaire Nechaev, malgré les preuves. Dostoïevski qualifiait cela de falsification par la presse pseudo-libérale.

Il se positionnait comme un « réaliste au plus haut degré » — révélant les profondeurs de l’âme humaine, pas seulement des schémas psychologiques. Sa méthode utilisait des parallèles historiques : chaque phénomène était examiné à travers le prisme du passé pour renforcer sa crédibilité.

Appliquer cela à l’IA : Le réalisme pour l’explicabilité

La méthode de Dostoïevski offre un cadre pour l’IA :

• Analyse des sources : auditer les données d’entrée pour repérer les biais, comme Dostoïevski scrutait la presse.
• Méta-description : documenter les méthodes de traitement — algorithmes, poids, chemins alternatifs.
• Contexte historique : s’appuyer sur des cas passés pour justifier les conclusions.
• Critique des biais : détecter le « mensonge » dans les données ou le comportement du modèle, analogue à dévoiler des mythes sociaux.
• Honnêteté intellectuelle : privilégier l’authenticité plutôt que l’optimisation métrique.

Sept principes de la pensée de Dostoïevski (d’après des interprétations modernes) peuvent être intégrés aux prompts des LLM :

• Raisonner à partir de l’expérience vécue.
• Dévoiler les motivations profondes.
• Comparer avec des perspectives alternatives.
• Documenter les écarts par rapport aux faits.
• Privilégier le réalisme plutôt que l’abstraction.
• Assurer une cohérence logique.
• Viser une clarté persuasive.

Cela améliore l’explicabilité dans les tâches de traitement du langage naturel, l’analyse éthique et la génération de texte.

Impact sur la science : De Dostoïevski à Einstein

Einstein affirmait que Dostoïevski avait contribué davantage à la créativité que Gauss à la mathématique. L’écrivain se concentrait sur la description complète de l’observation — tous les aspects du processus, y compris la profondeur subjective. Einstein a appliqué cette idée à la physique : les lois dépendent de l’acte entier d’observation, fondant ainsi la relativité restreinte.

De même, l’IA a besoin de modèles qui tiennent compte du contexte de l’observation des données — pas seulement de la reconnaissance de motifs.

Points clés

• La transparence comme priorité : l’IA doit expliquer son raisonnement en termes humains pour assurer la confiance et la sécurité.
• La méthode de Dostoïevski : combiner vérification des faits, raisonnement métacognitif et contexte historique résout l’explicabilité.
• Problème universel : les distorsions cognitives sont mondiales, allant de la Russie à l’Occident.
• Potentiel des LLM : intégrer le réalisme améliore l’honnêteté des sorties IA axées sur les humanités.
• Précédent scientifique : la méthode de Dostoïevski a inspiré la percée d’Einstein en physique.

La méthode de Dostoïevsky ajoute de la complexité, mais renforce la crédibilité. Les lecteurs le louaient pour son authenticité — une mesure absente dans les systèmes d’IA actuels.

— Editorial Team