에이전트 애플리케이션 보호 OWASP Top 10

에이전트 앱 보안: OWASP Top 10과 치명적 트리플레타 모델

에이전트 기반 앱은 계획, 도구 호출, 메모리 저장, 그리고 다른 에이전트 간의 소통을 통해 실제 세계에 영향을 미칩니다. 이는 엄격한 신뢰 경계, 제한된 자율성, 철저한 아키텍처 검토를 요구합니다. 2026년 OWASP 에이전트 최상위 10개 위험은 핵심 리스크를 강조하며, 치명적 트리플레타 모델은 비밀 데이터 + 신뢰할 수 없는 입력 + 외부 연결이라는 치명적인 조합을 드러냅니다.

감사용 치명적 트리플레타 모델

트리플레타는 단순한 체크리스트로, 리스크를 빠르게 식별할 수 있습니다: 개인 정보(데이터베이스, 비밀번호), 신뢰할 수 없는 입력(웹 콘텐츠, 이메일), 외부 통신 채널(HTTP, 이메일). 이 세 가지가 동시에 존재하면 간접 프롬프트 주입으로 인해 정보 유출이 발생할 수 있습니다. 전략은 적어도 하나의 연결 고리를 끊거나 철저한 제어를 추가하는 것입니다.

• 개인 정보: 즉시 접근, 단기 토큰, 최소 데이터 원칙 적용.
• 외부 통신: 도메인 허용 목록, DLP, 외부 발신 시 인간 개입 필수.
• 신뢰할 수 없는 콘텐츠: 출처 태깅, 데이터와 제어 분리, 정책 게이트 운영.
• 지속적 메모리: TTL 설정, 신뢰 점수, 테넌트별 네임스페이스 구분.

모든 리뷰에서 트리플레타 여부를 점검하세요. 제한 없이 접근 가능하다면, 설계 재검토 시점입니다.

OWASP 에이전트 최상위 10: 위험과 대응 방안

ASI01 에이전트 목표 탈취. 공격: 도구 출력을 통한 간접 주입. 방어: 정책 게이트, 고영향 승인, 목표 편차 로깅, 출처 태깅.

ASI02 도구 오용. 공격: 체인 내 악성 파라미터. 방어: 도구 허용 목록, 영향 범위 제한, 체인 상관관계 분석.

ASI03 정체성 남용. 공격: 토큰 재사용, 전이적 권한. 방어: 즉시 토큰, 작업 범위 권한, 재인증.

ASI04 공급망 공격. 공격: 설명서 위변조. 방어: 버전 고정, 아티팩트 서명, 소스 허용 목록.

ASI05 예기치 않은 원격 코드 실행. 공격: eval 주입. 방어: 실행 격리, 기본적으로 네트워크 차단, 생성/실행 분리.

심층 분석: 메모리 및 통신 위협

ASI06 메모리 오염. 공격: RAG 오염으로 장기적 영향. 방어: 테넌트 분리, TTL, 격리 복원.

ASI07 에이전트 간 소통 위협. 공격: 위장, 재생 공격. 방어: mTLS, 메시지 서명, 난수/타임스탬프 사용.

ASI08 연쇄 실패. 공격: 오류 전파. 방어: 플래너/실행자 분리, 회로 차단기, 추적 기록 유지.

ASI09 사용자 신뢰 남용. 공격: 동의 획득 위장. 방어: 다단계 승인, 다단계 확인 절차.

ASI10 무질서한 에이전트. 공격: 목표 편차. 방어: 긴급 중단 스위치, 행동 기준선 설정, 주기적 검토.

주요 진입점: 사용자 입력, RAG, 도구 호출. 계획은 목표 설정, 메모리는 신뢰 형성, 에이전트 간 소통에는 견고한 프로토콜 필요.

실전 생산 환경 사례

기업 이메일/문서 관리 에이전트 (ASI01-03,09)

위험: 이메일이 명령어로 사용되며, 권한 확대, 운영자 편향 발생 가능성.

대응 방안:

• 읽기와 실행 분리.
• 명시적 외부 발신 승인.
• 작업 추적 기록 유지.

지식 기반 RAG 에이전트 (ASI06,08)

위험: 신뢰할 수 없는 데이터 수집, 점진적 오염.

대응 방안:

• 출처 기반 신뢰 점수 부여.
• TTL 및 롤백 기능 활성화.
• 테넌트 격리.

도구 오케스트레이터 (ASI02,04,05,07,10)

위험: 악성 도구 호출, 공급망 공격, 연쇄 작동.

대응 방안:

• 도구별 운영 허용 목록 설정.
• 출처 증명 검증.
• 할당량 및 정책 게이트 운영.

구현 로드맵

단계 1: 자산 현황 파악 (트리플레타 감사), 내보내기 통제 강화, 로깅 활성화.

단계 2: 정책 게이트, 즉시 토큰, 고영향 승인 도입.

단계 3: 메모리 분리, 작업 추적, 사고 대응 (긴급 중단 스위치).

이 단계별 접근은 전체 재작성 없이도 리스크를 크게 줄입니다.

핵심 요약

• 트리플레타를 깨뜨려 치명적인 연결 고리를 최소화하세요.
• OWASP Top 10은 데이터 → 지시 → 실행의 전환 과정을 집중적으로 보호합니다.
• 프롬프트 감지기는 보조 수단일 뿐, 아키텍처가 진정한 핵심입니다.
• 연쇄 실패 대비에는 작업 추적 및 이상 탐지가 필수입니다.
• 행동 기준선과 긴급 중단 스위치는 무질서한 에이전트를 관리하는 핵심입니다.

— Editorial Team