ASAMM: AI 에이전트용 보안 프레임워크

ASAMM: 자율 AI 에이전트 시스템을 위한 새로운 위험 평가 프레임워크

자율 AI 에이전트 기반 시스템은 고유한 특성을 고려하지 못하는 기존 방법으로는 적절한 보안 접근이 어려워 전문적인 접근이 필요합니다. 에이전트 SAMM(ASAMM) 프레임워크는 컨텍스트, 도구 호출, 독립적인 에이전트 운영 기간과 관련된 위험을 분석하기 위한 구조화된 도구를 제공합니다. 이는 OWASP SAMM 모델을 확장한 것으로, AI가 외부 리소스와 독립적으로 상호작용하는 현대 에이전트 아키텍처에 맞게 조정되었습니다.

ASAMM의 개발은 이러한 시스템이 DevOps 프로세스와 비즈니스 운영에 가속화되어 통합되면서 추진되었습니다. 기업들은 에이전트가 인간의 감독 없이 데이터를 처리할 때 감시의 공백에 직면하는 경우가 많으며, 이는 컨텍스트나 도구를 통한 조작에 대한 취약성을 증가시킵니다.

주요 프레임워크 개념

ASAMM는 에이전트 시스템의 특성에 초점을 맞춘 개념을 도입합니다:

• 공격 표면으로서의 컨텍스트: 에이전트가 접근할 수 있는 문서, CI/CD 로그, 티켓 또는 웹 리소스는 악성 지시의 원천이 될 수 있습니다.
• 도구 호출: 권한이 부여된 접근은 에이전트의 행동이 작업과 관련성이 있음을 보장하지 않아, 무단 작업의 위험을 생성합니다.
• 자율성 창: 체크포인트 없이 허용된 작업의 시간과 양으로 측정되는 기간은 위험 수준을 결정합니다.

이러한 요소들은 도구 레지스트리와 MCP 서버의 취약점을 종종 놓치는 위협 모델링이나 DAST 스캐닝과 같은 표준 관행을 보완합니다.

프레임워크는 진입점별 위협 분류법, 두 축을 가진 신뢰 모델, 그리고 OWASP SAMM의 다섯 가지 기능(거버넌스, 설계, 구현, 검증, 운영)에 걸친 19개의 제어로 구성됩니다. 각 제어는 L1부터 L3까지의 성숙도 수준을 가지고 있습니다.

제어 구조와 표준 통합

제어는 시스템 라이프사이클을 포괄적으로 커버하기 위해 패밀리별로 분배됩니다:

• 거버넌스: 자율성 정책과 제약 정의
• 설계: 컨텍스트와 도구 위험 모델링
• 구현: 보호적 호출 메커니즘 구현
• 검증: 자율성 창과 증거 감사
• 운영: 이상 징후 모니터링 및 대응

ASAMM는 NIST AI RMF, NCSC 가이드라인, 그리고 러시아 GOST R 56939-2024와 통합됩니다. 버전 2는 6단계의 증거 분류법, 에이전트 자체 수정 제어, 그리고 가치 제약 문서화를 추가합니다. 자가 감사, 외부 검토, 그리고 다른 에이전트에 의한 감사의 트랙을 포함한 감사 방법론이 제안됩니다.

구현 경로와 실무적 함의

기존 보안 프로그램을 가진 조직의 경우, ASAMM를 현재 프로세스에 통합하는 마이그레이션을 권장합니다. 새로운 프로젝트의 경우 처음부터 시작하는 대안이 있습니다. 러시아어 버전은 GOST와의 상세한 정렬을 포함합니다.

프레임워크 구현은 산업에 영향을 미쳐, AI 에이전트를 위한 관행의 표준화를 장려합니다. 이는 자율적 행동과 관련된 사고의 위험을 줄이고 기업 환경에서 기술에 대한 신뢰를 높입니다. 결과로는 팀 재교육과 검증 도구에 대한 투자의 필요성이 포함되지만, 이는 취약점을 최소화함으로써 보상됩니다.

전체 맥락: AI 에이전트 시장은 연간 40% 성장하고 있으며, DevOps 자동화에 초점을 맞추고 있습니다. ASAMM와 같은 적응된 프레임워크 없이, 기업들은 데이터 유출과 무단 작업의 위험에 직면합니다.

핵심 요약

• ASAMM는 자율성 창과 도구 호출에 초점을 맞춰 에이전트 시스템을 위한 OWASP SAMM를 확장합니다.
• 다섯 가지 기능에 걸친 19개의 제어와 L1-L3 성숙도 수준은 점진적 개선을 가능하게 합니다.
• NIST, NCSC, 그리고 GOST R 56939-2024와의 통합은 규정 준수를 단순화합니다.
• 감사 방법론은 유연성을 위한 세 가지 트랙을 포함합니다.
• 크리에이티브 커먼즈 라이선스는 무료 사용과 수정을 허용합니다.

— Editorial Team