ASAMM: Sicherheitsframework für KI-Agenten

ASAMM: Ein neues Framework für Risikobewertung in autonomen KI-Agenten-Systemen

Systeme, die auf autonomen KI-Agenten basieren, erfordern spezialisierte Sicherheitsansätze, da herkömmliche Methoden deren einzigartige Eigenschaften nicht berücksichtigen. Das Agentic SAMM (ASAMM) Framework bietet ein strukturiertes Werkzeug zur Analyse von Risiken im Zusammenhang mit Kontext, Tool-Aufrufen und Phasen unabhängigen Agentenbetriebs. Diese Erweiterung des OWASP SAMM-Modells ist für moderne Agentenarchitekturen angepasst, in denen KI eigenständig mit externen Ressourcen interagiert.

Die Entwicklung von ASAMM wird durch die beschleunigte Integration solcher Systeme in DevOps-Prozesse und Geschäftsabläufe vorangetrieben. Unternehmen stehen häufig vor Überwachungslücken, wenn Agenten Daten ohne menschliche Aufsicht verarbeiten, was die Anfälligkeit für Manipulationen durch Kontext oder Tools erhöht.

Zentrale Framework-Konzepte

ASAMM führt Konzepte ein, die sich auf die Besonderheiten von Agentensystemen konzentrieren:

• Kontext als Angriffsfläche: Dokumente, CI/CD-Logs, Tickets oder Webressourcen, auf die der Agent zugreifen kann, können als Quellen für bösartige Anweisungen dienen.
• Tool-Aufrufe: Autorisierter Zugriff garantiert nicht die Relevanz der Agentenaktionen für die Aufgabe, was Risiken für unbefugte Operationen schafft.
• Autonomiefenster: Der Zeitraum ohne Kontrollpunkte, gemessen an Zeit und Umfang der erlaubten Aktionen, bestimmt das Risikoniveau.

Diese Elemente ergänzen Standardpraktiken wie Threat Modeling oder DAST-Scans, die oft Schwachstellen in Tool-Registern und MCP-Servern übersehen.

Das Framework ist um eine Threat-Taxonomie nach Einstiegspunkten, ein Vertrauensmodell mit zwei Achsen und 19 Kontrollen über die fünf OWASP SAMM-Funktionen strukturiert: Governance, Design, Implementierung, Verifikation und Betrieb. Jede Kontrolle hat Reifegrade von L1 bis L3.

Kontrollstruktur und Integration mit Standards

Kontrollen sind über Familien verteilt, um den Systemlebenszyklus umfassend abzudecken:

• Governance: Definition von Autonomierichtlinien und -beschränkungen.
• Design: Modellierung von Kontext- und Tool-Risiken.
• Implementierung: Umsetzung von Schutzmechanismen für Aufrufe.
• Verifikation: Prüfung von Autonomiefenstern und Nachweisen.
• Betrieb: Überwachung und Reaktion auf Anomalien.

ASAMM integriert sich mit NIST AI RMF, NCSC-Richtlinien und dem russischen GOST R 56939-2024. Version zwei fügt eine Nachweistaxonomie mit sechs Stufen, Kontrolle für Agenten-Selbstmodifikation und Dokumentation von Wertbeschränkungen hinzu. Eine Audit-Methodik wird mit Tracks vorgeschlagen: Selbstaudit, externe Überprüfung und Audit durch einen anderen Agenten.

Implementierungspfade und praktische Implikationen

Für Organisationen mit bestehenden Sicherheitsprogrammen wird eine Migration empfohlen, die ASAMM in aktuelle Prozesse integriert. Eine Alternative ist der Neustart für neue Projekte. Die russischsprachige Version enthält detaillierte Abstimmung mit GOST.

Die Implementierung des Frameworks wirkt sich auf die Branche aus und fördert die Standardisierung von Praktiken für KI-Agenten. Dies reduziert Risiken von Vorfällen im Zusammenhang mit autonomen Aktionen und erhöht das Vertrauen in Technologien in Unternehmensumgebungen. Konsequenzen umfassen die Notwendigkeit von Team-Umschulungen und Investitionen in Verifikationstools, die sich jedoch durch Minimierung von Schwachstellen auszahlen.

Gesamtkontext: Der KI-Agenten-Markt wächst jährlich um 40 %, mit Fokus auf DevOps-Automatisierung. Ohne angepasste Frameworks wie ASAMM riskieren Unternehmen Datenlecks und unbefugte Operationen.

Wichtigste Erkenntnisse

• ASAMM erweitert OWASP SAMM für Agentensysteme, mit Fokus auf Autonomiefenster und Tool-Aufrufe.
• 19 Kontrollen über fünf Funktionen mit L1-L3-Reifegraden ermöglichen schrittweise Verbesserung.
• Integration mit NIST, NCSC und GOST R 56939-2024 vereinfacht Compliance.
• Die Audit-Methodik umfasst drei Tracks für Flexibilität.
• Die Creative-Commons-Lizenz erlaubt freie Nutzung und Modifikation.

— Editorial Team