Graph statt RAG für Vorschriften-Dokumente

Grafenbasierte Dokumentenmodelle statt Vektor-RAG: Erfahrungen mit Normativdokumenten

Standard-RAG – das Aufteilen von Text in Abschnitte, Vektorisieren und Suchen – versagt bei Normativdokumenten. Die semantische Suche findet relevante Klauseln, ignoriert aber zugehörige Unterklauseln, Anmerkungen oder Querverweise. Das Ergebnis: unvollständige Antworten, bei denen das Modell aus isolierten Fragmenten Schlüsse zieht und den wesentlichen Kontext verliert.

Bei Fragen, die Regelungsketten betreffen, bringt die Abruftechnik entweder Rauschen oder verpasst Schlüsselelemente. Das Problem liegt nicht im LLM, sondern in der flachen Darstellung der Dokumente, bei der die kleinste Speichereinheit nicht mit der Bedeutungseinheit übereinstimmt.

Strukturiertes Modell: Vom Text zur Knotenhierarchie

Dokumente werden als Baum adressierbarer Elemente modelliert:

• Wurzelknoten – das gesamte Dokument.
• Abschnitte, Klauseln, Unterklauseln.
• Tabellen und Formeln als separate Knoten.
• Verbindungen zwischen Knoten.
• Eine separate Ebene für Begriffe mit Definitionen.

Die Indizierung basiert auf normalisierter Struktur, nicht auf rohen Abschnitten nach dem Parsing. Dies erhält die Hierarchie und ermöglicht präzisen Zugriff auf Elemente.

Kontextgruppierung: Warum ein Knoten nicht ausreicht

Atomare Knoten (einzelne Klauseln) verlieren den lokalen Kontext. Für eine Frage wie "Mindestanzahl Notausgänge" benötigt man nicht nur die Hauptklausel, sondern:

• Benachbarte Unterklauseln auf derselben Ebene.
• Anmerkungen.
• Zugehörige Tabellen.
• Querverweise zu anderen Abschnitten oder Dokumenten.

Die Gruppierung erfolgt nach gemeinsamem Elternelement und Verschachtelungsebene, mit einer Größenbegrenzung. Es gibt keine universelle Abschnittsgröße: Kleine Gruppen verlieren an Bedeutung, große Gruppen fügen dem Abruf Rauschen hinzu. Strukturelle Gruppierung verbessert die Robustheit der Antworten, indem sinnvolle Blöcke in den Index aufgenommen werden.

Multimodaler Abruf: Über die Vektorsuche hinaus

Die semantische Suche funktioniert für freiformulierte Anfragen, aber Normativdokumente erfordern Präzision:

• Punktsuche nach Klauselnummer (z.B. 6.2.2).
• Tabellensuche (z.B. Tabelle 7.1).
• Lexikalische und hybride Suche.
• Terminologieebene.
• Querverweissuche.

Eine einzelne Anfrage löst mehrere Strategien parallel aus: Punktsuche nach Klausel + Stichwort + Begriffe. Die Ergebnisse werden von einem Suchagenten in einem Kontext-Builder kombiniert.

Terminologieebene für Synonymie

Nutzer und Dokumente verwenden unterschiedliche Formulierungen: offizielle Begriffe, Abkürzungen, verstreute Definitionen. Begriffe werden separat extrahiert:

• Extraktion aus dem Dokument.
• Verknüpfung mit Definitionen.
• Separate Indizierung.
• Nutzung als zusätzliches Signal beim Abruf.

Dies verbindet Anfragen über Konzepte mit relevanten Fragmenten und verbessert den Recall.

Graphen der Verbindungen: Obligatorischer Kontext

Die Hierarchie garantiert nicht das Einbeziehen verwandter Vorschriften. Ein Graph fügt typisierte Beziehungen hinzu:

• obligatorisch – obligatorischer Begleiter eines Knotens.
• quer – Querverweis.
• Dokument ↔ Knoten.
• Knoten ↔ Tabelle.
• Zwischen Dokumenten.

Wenn ein relevanter Treffer auftritt, fügt der Abruf zwangsweise verwandte Knoten hinzu, selbst wenn sie nicht in den Top-k nach Semantik sind. Dies verhindert unvollständige Antworten.

Praktische Systemverbesserungen

Das grafenbasierte Modell macht Antworten robust:

• Präzise Verweise auf Klauseln mit Kontext.
• Handhabung von Tabellen ohne Verlust von Beschreibungen.
• Unterscheidung von Begriffen und ähnlichen Phrasen.
• Regelungsketten statt isolierter Fragmente.

Das System hört auf, ein Chat zu sein – es wird ein Werkzeug für überprüfbare Antworten.

Wesentliche Punkte:

• Dokumente sind kein flacher Text, sondern eine adressierbare Hierarchie mit einem Graphen von Verbindungen.
• Der Abruf ist mehrschichtig: Vektor + Punkt + Begriffe + Verbindungen.
• Gruppierung nach Struktur, nicht nach Tokens, um Kontext zu erhalten.
• Obligatorische Verbindungen werden explizit in den Daten ausgedrückt.
• Eine Frage – mehrere Suchen mit Ergebniskomposition.

Lehren für komplexe Domänen

Die RAG-Qualität in regulatorischen Kontexten wird durch Daten bestimmt, nicht durch das Modell. Wichtige Erkenntnisse:

• Strukturieren Sie Dokumente als Graphen von Knoten.
• Aufteilung nach Hierarchie, mit adaptiver Größe.
• Komponieren Sie Abrufstrategien.
• Extrahieren Sie Begriffe und obligatorische Verbindungen.

Dies skaliert auf andere Domänen mit starrer Struktur: Code, Spezifikationen, Verträge.

— Editorial Team