프레임워크 없이 AI 에이전트를 위한 Jarvis Pattern

자비스 패턴: AI 에이전트를 위한 프레임워크 대신 운영체제

LLM 기반 AI 에이전트가 클러스터 배포부터 보안 이미지 감사까지 DevSecOps 작업을 완전히 자동화합니다. 저자는 자비스 패턴을 제안합니다: LLM을 두뇌로, OS를 실행하는 손으로, 파일 시스템을 기억으로 사용합니다. 이는 프레임워크, 그래프, 벡터 데이터베이스를 대체하여 에이전트를 독립적인 전문가로 만듭니다.

프레임워크와 오케스트레이터의 문제점

LLM 에이전트를 위한 현대적 도구들은 미들웨어 계층을 추가합니다: 호출 그래프, 벡터 저장소, 수십 개의 노드로 구성된 파이프라인. 결과는 업데이트 시 깨지기 쉬운 취약한 시스템입니다. 단순화 대신 새로운 복잡성이 발생합니다.

비계는 건물이 아닙니다. 프레임워크는 제거해야 할 임시 구조물입니다. 에이전트는 토니 스타크의 작업실과 상호작용하는 자비스처럼 인프라와 직접 상호작용해야 합니다.

자비스 패턴 공식:

LLM (두뇌) + OS (손) + 파일 메모리 (지식 지도) = 완전한 전문가

벡터 데이터베이스 대신 파일 메모리

에이전트는 모든 문서를 로드할 필요가 없습니다. 인덱스와 참조를 저장합니다: API 엔드포인트, 인증, 메서드가 포함된 30줄의 파일들. 이는 데이터 덤프가 아닌 지도입니다.

벡터 데이터베이스는 임베딩을 통해 검색을 해결하지만, 의미적 유사성 ≠ 문맥적 이해입니다. 서로 다른 도메인의 두 유사한 조각은 쓰레기를 생성합니다.

파일 메모리의 장점:

• 폴더와 파일 이름을 통한 구조화.
• 검색 오버헤드 없이 빠른 접근.
• 운영 작업을 위해 수백 개의 파일로 확장 가능.
• 업데이트 및 조각 모음이 쉬움.

인덱스 파일 core.md는 개요를 포함합니다: 프로젝트, 리소스 위치. 에이전트는 결정 트리를 탐색합니다.

에이전트의 범용 도구 키트로서의 OS

유닉스 원칙은 AI에 이상적입니다: 모든 것은 파일이며, 단일 작업을 위한 작은 유틸리티, 그들의 조합입니다.

LLM은 독립적으로 도구를 선택합니다:

• REST 요청: curl.
• JSON 파싱: jq.
• 검색: find, grep.
• 누락된 도구: 에이전트는 CLI 스크립트를 작성하고 PATH에 추가합니다.

에이전트는 기존 인프라를 사용합니다: 메트릭을 위한 Prometheus (PromQL 쿼리), 비밀을 위한 Vault, 대시보드를 위한 Grafana. 주소와 메서드가 포함된 Markdown 파일—그리고 에이전트는 DevOps 엔지니어처럼 작동합니다.

운영자 수준의 오류 처리

재시도, 백오프, 서킷 브레이커는 스크립트용입니다. 에이전트는 운영자입니다: 500 응답을 분석하고, 속도 제한과 사용 불가를 구별하며, 대기하거나 인간에게 에스컬레이션합니다.

막다른 골목에 빠졌을 때: 멈추지 않고 원인에 대한 명확한 보고서를 작성합니다.

세 가지 유형의 에이전트 메모리

선언적

사실: 계정, 토큰, Vault의 경로. Markdown 파일.

절차적

런북: 기사 게시, 배포를 위한 단계. Markdown 지침.

일화적

경험: 성공적인 패턴 + 부정적 사례 ("접근법 X는 Y 때문에 실패했으므로 Z를 사용하세요"). 구조화된 오류 파일.

백그라운드 메모리 에이전트 큐레이터가 세션을 통합합니다: 사실을 기록하고, 모순을 업데이트하며, 쓰레기를 버립니다. 인간의 수면과 유사합니다.

한 에이전트 — 한 전문가

에이전트는 사람에게 연결됩니다: 접근 권한, 역할, 문맥을 상속받습니다. 클라이언트가 아닌 서버의 컨테이너에 살아갑니다. 인간은 불확실성에 대한 관리자이고, 에이전트는 일상적인 작업의 실행자입니다.

실제 사례 umax (DevSecOps 프로필):

• RBAC 및 접근: Kubernetes RBAC, FreeIPA, Vault 통합, 토큰 순환.
• 배포: Proxmox의 LXC → 네트워크 정책, 인그레스가 있는 K8s 클러스터.
• 보안 감사: 이미지를 위한 Trivy/Grype, GitLeaks, SonarQube, OWASP 검사.
• CI/CD: TeamCity, Nexus, 웹훅, 롤백.
• 마이그레이션 및 모니터링: LVM, 메트릭 기반 조달.

중간 등급 모델인 Claude Sonnet에서 실행됩니다.

핵심 요약

• 자비스 패턴은 의존성을 최소화합니다: LLM + OS + 파일.
• 파일 메모리는 확장 가능하며 벡터 검색 문제를 피합니다.
• 에이전트는 도구 키트를 동적으로 확장하고 유닉스 유틸리티를 사용합니다.
• 메모리 에이전트 큐레이터가 경험 통합을 자동화합니다.
• 중간 등급 LLM에서 완전한 기업 작업 사이클.

— Editorial Team