에이전트 하네스: 프로덕션용 AI 에이전트 아키텍처 | 가이드

# # 에이전트 하네스: 프로덕션 레디 AI 에이전트 아키텍처

문제는 신경망이 아닙니다. LLM 에이전트가 프로덕션에서 실패할 때, 모델 주변의 인프라가 원인입니다. LangChain은 모델을 바꾸지 않고 TerminalBench 2.0에서 30위에서 5위로 올라갔습니다—환경만 최적화했을 뿐입니다. 이 환경을 에이전트 하네스라고 부르며, 상태 비저장 LLM을 자율 에이전트로 바꿔줍니다.

에이전트 하네스란 무엇인가? AI를 위한 폰 노이만 아키텍처

이 용어는 2026년에 공식화되었지만, 개념 자체는 컴퓨팅 시스템 아이디어 만큼이나 오래되었습니다. 하네스는 LLM을 감싸는 전체 인프라입니다: 오케스트레이션 루프, 도구, 메모리, 컨텍스트 관리, 오류 처리 등입니다. Anthropic은 Claude Code 문서에서 SDK를 명시적으로 "에이전트 하네스"라고 부릅니다. 핵심 비유: 순수 LLM은 RAM이나 디스크 없는 CPU와 같습니다. 컨텍스트 윈도우는 작업 메모리 역할을 하고, 외부 데이터베이스는 장기 저장소, 도구는 장치 드라이버입니다. 하네스는 AI를 위한 운영체제가 되어 폰 노이만 아키텍처를 구현합니다.

많은 사람들이 "에이전트"와 "하네스"를 혼동합니다. 에이전트는 행동입니다: 목표 지향적이고 자기 수정하는 존재. 하네스는 이 행동을 생성하는 메커니즘입니다. LangChain의 Vivek Trivedy가 정확히 말했듯이: "만약 당신이 모델이 아니라면—당신은 하네스입니다."

LLM 주변의 세 가지 엔지니어링 레벨

모델 환경은 동심원 층으로 구축됩니다:

• 프롬프트 엔지니어링 — 모델 지시를 형성합니다.
• 컨텍스트 엔지니어링 — 모델이 언제 무엇을 보는지를 관리합니다.
• 하네스 엔지니어링 — 이전 두 층에 도구 오케스트레이션, 상태 지속성, 오류 처리, 보안을 더한 것입니다.

하네스는 단순한 프롬프트 래퍼가 아닙니다. 프로덕션에서 자율 에이전트 행동을 가능하게 하는 시스템입니다. 이 없이 고급 모델조차 취약한 데모처럼 행동합니다.

프로덕션 하네스의 12가지 핵심 구성 요소

Anthropic, OpenAI, LangChain 솔루션 분석에서 12가지 필수 구성 요소가 드러났습니다:

• 오케스트레이션 루프 — 시스템의 심장박동(Thought-Action-Observation).
• 도구 — 외부 세계와 상호작용하는 스키마.
• 메모리 — 다양한 시간 척도에 걸친 데이터 관리.
• 컨텍스트 관리 — 컨텍스트 부패 대처.
• 프롬프트 구성 — 모델 입력 조립.
• 출력 파싱 — 구조화된 응답 처리.
• 상태 관리 — 지속성과 체크포인트.
• 오류 처리 — 복구 전략.
• 안전 제한기 — 세 단계 가드레일.
• 검증 루프 — 에이전트 출력 확인.
• 서브 에이전트 오케스트레이션 — 작업 위임.
• 라이프사이클 — 배포와 모니터링.

컨텍스트 관리가 특별히 주목할 만합니다. Chroma와 Stanford 연구("Lost in the Middle")에서 핵심 콘텐츠가 윈도우 중간에 있으면 성능이 30% 이상 떨어진다는 결과가 나왔습니다. 프로덕션 전략에는 다음이 포함됩니다:

• 압축(Compaction): 히스토리 요약(Claude Code는 아키텍처 결정은 보존하고 기술 세부는 버림).
• 관찰 마스킹: 오래된 도구 출력을 숨김(JetBrains의 Junie처럼).
• Just-in-time 검색: 가벼운 쿼리(grep, glob)로 데이터 동적 로드.
• 서브 에이전트 위임: 원시 데이터 대신 압축 요약(1000–2000 토큰) 반환.

Anthropic은 목표를 이렇게 정의합니다: 성공 확률을 극대화하는 최소 고신호 토큰 세트 찾기.

오케스트레이션 루프 작동 방식

프로덕션 시스템의 TAO 루프를 분해해 보죠:

• 프롬프트 조립: 하네스가 입력을 형성하며, 핵심 컨텍스트를 시작과 끝에 배치("Lost in the Middle" 발견에 따라). 시스템 프롬프트, 도구 스키마, 메모리, 현재 쿼리 포함.
• LLM 추론: 모델이 요청 처리 후 텍스트나 구조화된 tool_calls 반환.
• 출력 분류: 도구 호출 있으면 실행; 핸드오버면 에이전트 전환; 아니면 루프 종료.
• 도구 실행: 인수 검증, 권한 확인, 격리 실행. 오류는 ToolMessage로 반환해 모델 수정.
• 검증: 규칙 기반 체크(린터, 테스트), 시각 검증(Playwright), 또는 LLM-as-judge.
• 상태 업데이트: git 커밋(Claude Code)이나 타입 사전(LangGraph)으로 체크포인트.

중요한 세부 사항: 하네스는 추론과 집행을 분리합니다. 모델은 "무엇을 할지" 결정, 도구 시스템은 "허용되는지" 결정. Claude Code는 세 단계 체크로 40+ 개별 권한 제어.

주요 교훈

• 문제는 모델이 아님: 프로덕션 에이전트 실패 90%가 하네스 부족에서 비롯됨, LLM이 아님.
• 컨텍스트 부패가 치명적: 1M 토큰 윈도우조차 적극적 컨텍스트 관리 필요.
• 검증 필수: 체크 루프 없는 에이전트는 2–3배 더 많은 오류 발생.
• 보안은 아키텍처적: 집행은 추론과 분리해야 함.
• 오류 누적: 단계당 99% 성공 10단계 프로세스는 종단 성공률 90.4%에 불과.

— Editorial Team