# Agent Harness: Architektura produkčních AI agentů
Problém není v neuronové síti. Když LLM agenti selžou v produkci, vinen je framework kolem modelu. LangChain se dostal z 30. místa na 5. v TerminalBench 2.0, aniž by měnil model – pouze optimalizoval okolí. Toto okolí se nazývá agent harness a proměňuje stateless LLM v autonomního agenta.
Co je agent harness? Architektura von Neumanna pro AI
Termín byl formalizován v roce 2026, ale koncept je starý jako samotná myšlenka výpočetního systému. Harness je kompletní infrastruktura, která obaluje LLM: orchestrální smyčka, nástroje, paměť, správa kontextu a zpracování chyb. Anthropic ve dokumentaci Claude Code přímo označuje SDK jako „agent harness“. Klíčová analogie: holý LLM je CPU bez RAM a disku. Kontextové okno funguje jako operační paměť, externí databáze jako dlouhodobé úložiště, nástroje jako ovladače zařízení. Harness se stává operačním systémem a realizuje architekturu von Neumanna pro AI.
Mnozí si pletou „agenta“ a „harness“. Agent je chování: cílená, samoopravařující se entita. Harness je mechanismus, který toto chování generuje. Jak to přesně formuloval Vivek Trivedy z LangChain: „Pokud nejsi model – jsi harness“.
Tři úrovně inženýrství kolem LLM
Okolí modelu se buduje v koncentrických vrstvách:
- Prompt inženýrství – formuje instrukce pro model.
- Kontext inženýrství – řídí, co model vidí a kdy.
- Harness inženýrství – zahrnuje předchozí dvě úrovně plus orchestraci nástrojů, perzistenci stavu, zpracování chyb a bezpečnost.
Harness není obal kolem promptu. Je to systém, který umožňuje autonomní agentní chování v produkci. Bez něj se i pokročilé modely chovají jako křehká demo.
Dvanáct kritických komponent produkčního harnessu
Analýza řešení od Anthropic, OpenAI a LangChain odhalila 12 nezbytných komponent:
- Orchestrální smyčka – tep systému (Thought-Action-Observation).
- Nástroje – schémata pro interakci s vnějším světem.
- Paměť – správa dat na různých časových škálách.
- Správa kontextu – boj s context rot.
- Konstrukce promptu – sestavení vstupu pro model.
- Parsování výstupu – zpracování strukturovaných odpovědí.
- Správa stavu – peristence a checkpointy.
- Zpracování chyb – strategie obnovy.
- Bezpečnostní limity – guardrails na třech úrovních.
- Cykly verifikace – kontrola výstupu agenta.
- Orchestrace subagentů – delegování úkolů.
- Životní cyklus – nasazení a monitorování.
Osobitnou pozornost si zaslouží správa kontextu. Výzkum Chroma a Stanfordu („Lost in the Middle“) ukázal: výkon klesá o 30 %+, když je klíčový obsah uprostřed okna. Produkční strategie zahrnují:
- Compaction: sumarizace historie (Claude Code zachovává architektonická rozhodnutí a odstraňuje technické detaily).
- Observation masking: skrytí starých výstupů nástrojů (jako v JetBrains' Junie).
- Just-in-time retrieval: dynamické načítání dat přes lehké dotazy (grep, glob).
- Sub-agent delegation: vrácení komprimovaných shrnutí (1000–2000 tokenů) místo surových dat.
Anthropic formuluje cíl: najít minimální sadu vysoce signálních tokenů, která maximalizuje pravděpodobnost úspěchu.
Jak funguje orchestrální smyčka
Rozložme TAO smyčku na příkladu produkčního systému:
- Sestavení promptu: harness formuje vstup, umístí kritický kontext na začátek a konec (podle zjištění „Lost in the Middle“). Zahrnuje systémový prompt, schémata nástrojů, paměť a aktuální požadavek.
- Inferenční LLM: model zpracuje požadavek a vrátí text nebo strukturované
tool_calls. - Klasifikace výstupu: pokud jsou volání nástrojů – spustíme je; pokud handoff – změníme agenta; jinak smyčku ukončíme.
- Spouštění nástrojů: validace argumentů, kontrola oprávnění, izolované spuštění. Chyby se vrací jako
ToolMessagepro opravu modelem. - Verifikace: pravidlové kontroly (lintery, testy), vizuální verifikace (Playwright) nebo LLM-as-judge.
- Aktualizace stavu: checkpointing přes git commity (Claude Code) nebo typizované slovníky (LangGraph).
Kritický detail: harness odděluje reasoning od enforcementu. Model rozhoduje „co udělat“, systém nástrojů „je to povoleno“. Claude Code kontroluje 40+ diskrétních oprávnění přes tříúrovňovou kontrolu.
Co je důležité
- Problém není v modelu: 90 % selhání produkčních agentů způsobuje nedostatečný harness, ne LLM.
- Context rot ničí: i okna o 1M tokenů vyžadují aktivní správu kontextu.
- Verifikace je nutná: agenti bez kontrolních smyček dávají 2–3× více chyb.
- Bezpečnost je architektonický prvek: enforcement musí být oddělen od reasoning.
- Chyby se hromadí: proces z 10 kroků s 99 % úspěšností na krok má jen 90,4 % celkový úspěch.
— Editorial Team
Zatím žádné komentáře.