Agent Harness: Architektur von KI-Agenten für die Produktion | Leitfaden

Agent Harness: Architektur für produktionsreife KI-Agenten

Das Problem ist nicht das neuronale Netz. Wenn LLM-Agenten in der Produktion scheitern, liegt es an der Infrastruktur um das Modell herum. LangChain hat sich von Platz 30 auf Platz 5 in TerminalBench 2.0 hochgearbeitet, ohne das Modell zu ändern – nur durch Optimierung seiner Umgebung. Diese Umgebung nennt man Agent Harness, und sie verwandelt ein zustandsloses LLM in einen autonomen Agenten.

Was ist ein Agent Harness? Von-Neumann-Architektur für KI

Der Begriff wurde 2026 formalisiert, aber das Konzept ist so alt wie die Idee eines Rechnersystems. Ein Harness ist die vollständige Infrastruktur, die das LLM umhüllt: Orchestrierungsschleife, Tools, Speicher, Kontextmanagement und Fehlerbehandlung. Anthropic bezeichnet sein SDK explizit als „agent harness“ in der Claude Code-Dokumentation. Die zentrale Analogie: Ein reines LLM ist wie eine CPU ohne RAM oder Festplatte. Das Kontextfenster dient als Arbeitsspeicher, externe Datenbanken als Langzeitspeicher und Tools als Gerätetreiber. Der Harness wird zum Betriebssystem und implementiert die Von-Neumann-Architektur für KI.

Viele verwechseln „Agent“ und „Harness“. Ein Agent ist das Verhalten: eine zielgerichtete, selbstkorrigierende Entität. Ein Harness ist der Mechanismus, der dieses Verhalten erzeugt. Wie Vivek Trivedy von LangChain es präzise formuliert hat: „If you're not the model—you're the harness.“

Drei Ebenen der Engineering um LLMs herum

Die Modellumgebung wird in konzentrischen Schichten aufgebaut:

• Prompt Engineering — formt die Anweisungen für das Modell.
• Kontext Engineering — verwaltet, was das Modell sieht und wann.
• Harness Engineering — umfasst die beiden vorherigen Schichten plus Tool-Orchestrierung, Zustands持久igkeit, Fehlerbehandlung und Sicherheit.

Ein Harness ist nicht nur ein Wrapper um einen Prompt. Es ist das System, das autonomes Agentenverhalten in der Produktion ermöglicht. Ohne es verhalten sich selbst fortschrittliche Modelle wie fragile Demos.

Zwölf kritische Komponenten eines Produktions-Harnesses

Die Analyse von Lösungen von Anthropic, OpenAI und LangChain hat 12 essenzielle Komponenten ergeben:

• Orchestrierungsschleife — der Herzschlag des Systems (Thought-Action-Observation).
• Tools — Schemata für die Interaktion mit der Außenwelt.
• Speicher — Verwaltung von Daten über verschiedene Zeitskalen.
• Kontextmanagement — Kampf gegen Kontextverfall.
• Prompt-Konstruktion — Zusammenstellung der Modell-Eingabe.
• Ausgabeparsing — Handhabung strukturierter Antworten.
• Zustandsverwaltung — Persistenz und Checkpoints.
• Fehlerbehandlung — Erholungsstrategien.
• Sicherheitsbegrenzer — Schutzschienen auf drei Ebenen.
• Verifizierungsschleifen — Überprüfung der Agenten-Ausgabe.
• Sub-Agenten-Orchestrierung — Aufgabendelegation.
• Lifecycle — Bereitstellung und Überwachung.

Das Kontextmanagement verdient besondere Aufmerksamkeit. Forschung von Chroma und Stanford („Lost in the Middle“) zeigte Leistungsabstürze von über 30 %, wenn zentraler Inhalt in der Mitte des Fensters steht. Produktionsstrategien umfassen:

• Kompaktion: Zusammenfassung der Historie (Claude Code bewahrt architektonische Entscheidungen, verwirft technische Details).
• Beobachtungs-Maskierung: Verstecken alter Tool-Ausgaben (wie in JetBrains' Junie).
• Just-in-time-Retrieval: Dynamisches Laden von Daten via leichten Abfragen (grep, glob).
• Sub-Agenten-Delegation: Rückgabe komprimierter Zusammenfassungen (1000–2000 Tokens) statt Rohdaten.

Anthropic definiert das Ziel: Den minimalen Satz hochsignaliger Tokens finden, der die Erfolgs Wahrscheinlichkeit maximiert.

So funktioniert die Orchestrierungsschleife

Zerlegen wir die TAO-Schleife in einem Produktionssystem:

• Prompt-Zusammenstellung: Der Harness formt die Eingabe, platziert kritischen Kontext am Anfang und Ende (gemäß „Lost in the Middle“-Ergebnissen). Enthält System-Prompt, Tool-Schemata, Speicher und aktuelle Anfrage.
• LLM-Inferenz: Das Modell verarbeitet die Anfrage und gibt Text oder strukturierte tool_calls zurück.
• Ausgabeklassifikation: Bei Tool-Aufrufen – ausführen; bei Handoff – Agenten wechseln; sonst Schleife beenden.
• Tool-Ausführung: Argumente validieren, Berechtigungen prüfen, isoliert ausführen. Fehler als ToolMessage zurückgeben für Modellkorrektur.
• Verifizierung: Regelbasierten Checks (Linter, Tests), visuelle Verifizierung (Playwright) oder LLM-as-Judge.
• Zustandsupdate: Checkpointing via git-Commits (Claude Code) oder typisierten Wörterbüchern (LangGraph).

Ein kritisches Detail: Der Harness trennt Denken von Durchsetzung. Das Modell entscheidet „was zu tun ist“, das Tool-System „ob es erlaubt ist“. Claude Code kontrolliert 40+ diskrete Berechtigungen via dreistufiger Checks.

Wichtige Erkenntnisse

• Das Problem ist nicht das Modell: 90 % der Produktionsfehler bei Agenten stammen von Harness-Mängeln, nicht vom LLM.
• Kontextverfall tötet: Sogar 1M-Token-Fenster erfordern aktives Kontextmanagement.
• Verifizierung ist Pflicht: Agenten ohne Check-Schleifen erzeugen 2–3x mehr Fehler.
• Sicherheit ist architektonisch: Durchsetzung muss vom Denken getrennt werden.
• Fehler häufen sich: Ein 10-Schritte-Prozess mit 99 % Erfolg pro Schritt hat nur 90,4 % Gesamterfolg.

— Editorial Team