ASAMM : cadre de sécurité pour les agents IA

ASAMM : Un nouveau cadre d'évaluation des risques pour les systèmes d'agents IA autonomes

Les systèmes basés sur des agents IA autonomes nécessitent des approches de sécurité spécialisées, car les méthodes traditionnelles ne tiennent pas compte de leurs caractéristiques uniques. Le cadre Agentic SAMM (ASAMM) offre un outil structuré pour analyser les risques liés au contexte, aux appels d'outils et aux périodes de fonctionnement autonome de l'agent. Cette extension du modèle OWASP SAMM est adaptée aux architectures d'agents modernes où l'IA interagit de manière indépendante avec des ressources externes.

Le développement d'ASAMM est motivé par l'intégration accélérée de tels systèmes dans les processus DevOps et les opérations commerciales. Les entreprises sont souvent confrontées à des lacunes de supervision lorsque les agents traitent des données sans surveillance humaine, ce qui augmente la vulnérabilité aux manipulations via le contexte ou les outils.

Concepts clés du cadre

ASAMM introduit des concepts axés sur les spécificités des systèmes d'agents :

• Le contexte comme surface d'attaque : Les documents, les journaux CI/CD, les tickets ou les ressources web accessibles à l'agent peuvent servir de sources d'instructions malveillantes.
• Les appels d'outils : Un accès autorisé ne garantit pas la pertinence des actions de l'agent par rapport à la tâche, créant des risques d'opérations non autorisées.
• La fenêtre d'autonomie : La période sans points de contrôle, mesurée par le temps et le volume d'actions autorisées, détermine le niveau de risque.

Ces éléments complètent les pratiques standard comme la modélisation des menaces ou les scans DAST, qui manquent souvent les vulnérabilités dans les registres d'outils et les serveurs MCP.

Le cadre est structuré autour d'une taxonomie des menaces par points d'entrée, d'un modèle de confiance à deux axes et de 19 contrôles répartis sur les cinq fonctions OWASP SAMM : Gouvernance, Conception, Implémentation, Vérification et Opérations. Chaque contrôle a des niveaux de maturité de L1 à L3.

Structure des contrôles et intégration avec les normes

Les contrôles sont répartis en familles pour une couverture complète du cycle de vie du système :

• Gouvernance : Définition des politiques d'autonomie et des contraintes.
• Conception : Modélisation des risques liés au contexte et aux outils.
• Implémentation : Mise en œuvre de mécanismes d'appel protecteurs.
• Vérification : Audit des fenêtres d'autonomie et des preuves.
• Opérations : Surveillance et réponse aux anomalies.

ASAMM s'intègre avec NIST AI RMF, les directives du NCSC et la norme russe GOST R 56939-2024. La version deux ajoute une taxonomie des preuves avec six niveaux, un contrôle pour l'auto-modification de l'agent et une documentation des contraintes de valeur. Une méthodologie d'audit est proposée avec des pistes : auto-audit, examen externe et audit par un autre agent.

Voies de mise en œuvre et implications pratiques

Pour les organisations disposant de programmes de sécurité existants, une migration est recommandée, intégrant ASAMM dans les processus actuels. Une alternative consiste à partir de zéro pour les nouveaux projets. La version en langue russe comprend un alignement détaillé avec GOST.

La mise en œuvre du cadre a un impact sur l'industrie, encourageant la standardisation des pratiques pour les agents IA. Cela réduit les risques d'incidents liés aux actions autonomes et augmente la confiance dans les technologies dans les environnements d'entreprise. Les conséquences incluent la nécessité de recycler les équipes et d'investir dans des outils de vérification, mais ces efforts sont rentabilisés en minimisant les vulnérabilités.

Contexte général : Le marché des agents IA croît de 40 % par an, avec un accent sur l'automatisation DevOps. Sans cadres adaptés comme ASAMM, les entreprises risquent des fuites de données et des opérations non autorisées.

Points clés à retenir

• ASAMM étend OWASP SAMM pour les systèmes d'agents, en se concentrant sur les fenêtres d'autonomie et les appels d'outils.
• 19 contrôles répartis sur cinq fonctions avec des niveaux de maturité L1-L3 permettent une amélioration progressive.
• L'intégration avec NIST, NCSC et GOST R 56939-2024 simplifie la conformité.
• La méthodologie d'audit comprend trois pistes pour une flexibilité.
• La licence Creative Commons permet une utilisation et une modification gratuites.

— Editorial Team