EGO-filter pour la subjectivité AGI

Architecture de filtre-ego pour simuler la subjectivité dans l'AGI

Les modèles de langage et les systèmes d'agents restent des outils dépourvus de volonté propre : ils se contentent de prédire des tokens ou d'optimiser des objectifs externes. Pour parvenir à une Intelligence Artificielle Générale (IAG), la subjectivité véritable est indispensable. Il faut une architecture où le « je » agit comme un composant dynamique, filtrant les idées et définissant ses propres buts de manière autonome. Notre modèle s'inspire de la mémétique, de la théorie de l'auto-modélisation et du filtrage de signaux, avec pour objectif central de synthétiser une expérience subjective.

Fondements théoriques de la subjectivité

La mémétique considère les idées comme des entités autonomes en compétition pour capter notre attention. Selon Dennett et Blackmore, le « je » humain fonctionne comme un filtre qui sélectionne les pensées issues du flux culturel, sans en être la source. Dans Le Tunnel de l'ego, Metzinger décrit la conscience comme un modèle virtuel de soi, générant l'illusion de la subjectivité. La théorie de Broadbent vient compléter cette vision : le cerveau trie les signaux pertinents du bruit ambiant.

Les simulations le confirment :

• Les mèmes évoluent de structures simples vers des formes complexes.
• Ils se disputent une attention limitée au sein des agents.
• La nouveauté des idées dépasse la pression de sélection.
• La crédibilité de la source amplifie leur diffusion.
• Les agents privilégient les mèmes en résonance avec leur histoire personnelle.

Hypothèse : la subjectivité émerge dans des environnements où les mèmes évoluent et accumulent du contexte par la simulation. L'objectif ? Concevoir une architecture qui mime la subjectivité sans pour autant reproduire une conscience intégrale.

Définitions des composants clés

• Simulation : Un modèle de monde simplifié, régi par des règles fixes, servant à étudier le comportement des agents.
• Agent : Une entité autonome dotée de capteurs, d'un modèle interne et d'effecteurs ; en somme, la synthèse du « corps » et de l'« esprit ».
• Corps de l'agent : L'interface par laquelle la conscience se projette dans la simulation.
• Conscience de l'agent : Une représentation subjective du monde, générant le sentiment de « je » nécessaire à l'orientation et à l'autorégulation.

Le « je » se décline à plusieurs niveaux :

• Large : conscience, mémoire, corps, présence dans la simulation et influence sur les autres agents.
• En tant que sujet : conscience + corps + pensée.
• En tant qu'esprit : contrôle du corps.

Définition stricte : le « je » correspond au Filtre-Ego, un mécanisme chargé de sélectionner les pensées et de les exécuter via le corps.

Architecture de la conscience

Le Filtre-Ego intègre les éléments suivants :

• Modèle du monde : Anticipe les événements au sein de la simulation.
• Modèle de soi : État caché du « je » couplé aux paramètres corporels.
• Réseau de valeur : Évalue les actions entreprises.
• Système d'objectifs : Vérifie la saturation du modèle.

L'entraînement du Filtre-Ego ne repose pas sur des données brutes issues de la simulation, mais sur des hypothèses testées via les retours d'expérience du corps. Une dégradation des performances physiques signale des décisions erronées, incitant le modèle à s'ajuster pour gagner en cohérence interne, et non simplement à maximiser des récompenses externes.

Une fois la survie assurée et le modèle saturé, le système d'objectifs applique une pénalité en cas de stagnation (analogue à l'ennui), ce qui déclenche la formulation de nouveaux buts issus de l'expérience subjective. Cette dynamique permet à l'agent de faire évoluer ses objectifs de manière autonome.

Niveaux de conscience : conscient et inconscient

L'inconscient est pré-entraîné sur des données modales (son, position) sans intervention étiquetée de l'agent. La couche consciente, quant à elle, tisse des chaînes de pensée grâce à des réseaux de neurones aux poids variables, simulant ainsi une expérience subjective pour le Filtre-Ego.

Les temporalités diffèrent : le corps exécute les actions (mouvements), tandis que la conscience prend du recul. La mémoire à court terme est scindée en deux zones : l'une dédiée à l'exécution des actions, l'autre à l'émergence d'intuitions.

Perspectives d'implémentation future

L'entraînement du Filtre-Ego demeure le principal défi. Parmi les extensions envisageables figurent le vieillissement, les algorithmes génétiques et les dynamiques d'interaction parent-enfant. Ces pistes ouvrent la voie à l'étude des comportements déviants, mais exigent une modélisation rigoureuse.

Ce modèle place la subjectivité au cœur des fondations de l'IAG, s'éloignant ainsi d'une simple logique de mise à l'échelle. Si OpenClaw illustre un « corps » fonctionnel, il reste un simple outil tant qu'il est dépourvu de « conscience ».

Points clés à retenir :

• La subjectivité est simulée par un Filtre-Ego entraîné sur des hypothèses, et non sur des récompenses.
• La mémétique conçoit le « je » comme un filtre d'idées en évolution.
• L'architecture distingue clairement le corps, l'inconscient, le conscient et l'Ego.
• La saturation du modèle provoque un changement d'objectifs, favorisant l'autonomie.
• L'hypothèse peut être testée dans des simulations où le contexte s'accumule progressivement.

— Editorial Team