ASAMM: marco de seguridad para agentes de IA

ASAMM: Un Nuevo Marco para la Evaluación de Riesgos en Sistemas de Agentes de IA Autónomos

Los sistemas basados en agentes de IA autónomos requieren enfoques de seguridad especializados, ya que los métodos tradicionales no tienen en cuenta sus características únicas. El marco Agentic SAMM (ASAMM) ofrece una herramienta estructurada para analizar riesgos relacionados con el contexto, las llamadas a herramientas y los períodos de operación independiente del agente. Esta extensión del modelo OWASP SAMM está adaptada para arquitecturas de agentes modernas donde la IA interactúa de forma independiente con recursos externos.

El desarrollo de ASAMM está impulsado por la integración acelerada de dichos sistemas en los procesos de DevOps y las operaciones empresariales. Las empresas a menudo enfrentan brechas en la supervisión cuando los agentes procesan datos sin supervisión humana, lo que aumenta la vulnerabilidad a la manipulación a través del contexto o las herramientas.

Conceptos Clave del Marco

ASAMM introduce conceptos centrados en las particularidades de los sistemas de agentes:

• El Contexto como Superficie de Ataque: Documentos, registros de CI/CD, tickets o recursos web accesibles para el agente pueden servir como fuentes de instrucciones maliciosas.
• Llamadas a Herramientas: El acceso autorizado no garantiza la relevancia de las acciones del agente para la tarea, creando riesgos de operaciones no autorizadas.
• Ventana de Autonomía: El período sin puntos de control, medido por tiempo y volumen de acciones permitidas, determina el nivel de riesgo.

Estos elementos complementan prácticas estándar como el modelado de amenazas o el escaneo DAST, que a menudo pasan por alto vulnerabilidades en registros de herramientas y servidores MCP.

El marco está estructurado en torno a una taxonomía de amenazas por puntos de entrada, un modelo de confianza con dos ejes y 19 controles en las cinco funciones de OWASP SAMM: Gobernanza, Diseño, Implementación, Verificación y Operaciones. Cada control tiene niveles de madurez de L1 a L3.

Estructura de Controles e Integración con Estándares

Los controles se distribuyen en familias para una cobertura integral del ciclo de vida del sistema:

• Gobernanza: Definición de políticas y restricciones de autonomía.
• Diseño: Modelado de riesgos de contexto y herramientas.
• Implementación: Implementación de mecanismos de llamada protectores.
• Verificación: Auditoría de ventanas de autonomía y evidencias.
• Operaciones: Monitoreo y respuesta a anomalías.

ASAMM se integra con NIST AI RMF, las directrices de NCSC y el GOST R 56939-2024 ruso. La versión dos añade una taxonomía de evidencias con seis niveles, control para la automodificación del agente y documentación de restricciones de valor. Se propone una metodología de auditoría con pistas: autoevaluación, revisión externa y auditoría por otro agente.

Rutas de Implementación e Implicaciones Prácticas

Para organizaciones con programas de seguridad existentes, se recomienda la migración, integrando ASAMM en los procesos actuales. Una alternativa es comenzar desde cero para nuevos proyectos. La versión en español incluye una alineación detallada con GOST.

La implementación del marco impacta en la industria, fomentando la estandarización de prácticas para agentes de IA. Esto reduce los riesgos de incidentes relacionados con acciones autónomas y aumenta la confianza en las tecnologías en entornos empresariales. Las consecuencias incluyen la necesidad de reciclaje del equipo e inversiones en herramientas de verificación, pero estas se compensan al minimizar vulnerabilidades.

Contexto general: El mercado de agentes de IA está creciendo un 40% anual, con un enfoque en la automatización de DevOps. Sin marcos adaptados como ASAMM, las empresas corren el riesgo de fugas de datos y operaciones no autorizadas.

Conclusiones Principales

• ASAMM extiende OWASP SAMM para sistemas de agentes, centrándose en ventanas de autonomía y llamadas a herramientas.
• 19 controles en cinco funciones con niveles de madurez L1-L3 permiten una mejora gradual.
• La integración con NIST, NCSC y GOST R 56939-2024 simplifica el cumplimiento.
• La metodología de auditoría incluye tres pistas para flexibilidad.
• La licencia Creative Commons permite uso y modificación gratuitos.

— Editorial Team