ASAMM：AI 代理的安全框架

ASAMM：自主AI代理系统风险评估新框架

基于自主AI代理的系统需要专门的安全方法，因为传统方法无法考虑其独特特性。代理式SAMM（ASAMM）框架提供了一个结构化工具，用于分析与上下文、工具调用和独立代理操作周期相关的风险。这是OWASP SAMM模型的扩展，适用于AI独立与外部资源交互的现代代理架构。

ASAMM的开发受到此类系统加速集成到DevOps流程和业务运营的推动。当代理在没有人工监督的情况下处理数据时，公司常常面临监管空白，增加了通过上下文或工具被操纵的脆弱性。

关键框架概念

ASAMM引入了专注于代理系统特性的概念：

• 上下文作为攻击面：代理可访问的文档、CI/CD日志、工单或网络资源可能成为恶意指令的来源。
• 工具调用：授权访问并不能保证代理操作与任务的相关性，从而产生未授权操作的风险。
• 自主窗口期：没有检查点的时间段，通过允许操作的时间和数量来衡量，决定了风险级别。

这些要素补充了威胁建模或DAST扫描等标准实践，这些实践常常忽略工具注册表和MCP服务器中的漏洞。

该框架围绕按入口点分类的威胁分类法、具有两个轴的信任模型以及跨越五个OWASP SAMM功能（治理、设计、实施、验证和运营）的19个控制措施构建。每个控制措施都有从L1到L3的成熟度级别。

控制结构与标准集成

控制措施分布在各个系列中，以全面覆盖系统生命周期：

• 治理：定义自主策略和约束。
• 设计：建模上下文和工具风险。
• 实施：实施保护性调用机制。
• 验证：审计自主窗口期和证据。
• 运营：监控和响应异常。

ASAMM与NIST AI RMF、NCSC指南以及俄罗斯GOST R 56939-2024集成。第二版增加了具有六个级别的证据分类法、代理自我修改控制以及价值约束文档。提出了一种审计方法，包含以下路径：自我审计、外部审查和由另一代理进行的审计。

实施路径与实际影响

对于已有安全计划的组织，建议采用迁移方式，将ASAMM集成到现有流程中。对于新项目，另一种选择是从头开始。俄语版本包括与GOST的详细对齐。

实施该框架对行业产生影响，鼓励AI代理实践的标准化。这降低了与自主操作相关的事件风险，并增加了企业环境中对技术的信任。后果包括团队再培训和验证工具投资的必要性，但这些投入通过最小化漏洞而得到回报。

总体背景：AI代理市场每年增长40%，重点是DevOps自动化。如果没有像ASAMM这样的适应性框架，公司面临数据泄露和未授权操作的风险。

关键要点

• ASAMM扩展了OWASP SAMM以适用于代理系统，专注于自主窗口期和工具调用。
• 跨越五个功能的19个控制措施，具有L1-L3成熟度级别，支持逐步改进。
• 与NIST、NCSC和GOST R 56939-2024集成简化了合规性。
• 审计方法包括三个路径，提供灵活性。
• 知识共享许可协议允许免费使用和修改。

— Editorial Team