Was ist Grounding in RAG?

Grounding (G) — ein Multiplikator, der die Genauigkeit der Links zu Dokumentenseiten überprüft. Niedriges G macht sogar eine perfekte Antwort wirkungslos.

Warum ist BM25 schlechter als semantische Suche?

BM25 stützt sich auf Keywords, ignoriert Semantik und führt dadurch zu niedrigem Grounding (0.390 vs 0.901 im Hybrid).

Ist Mac M3 Ultra für RAG geeignet?

Ja für Embeddings und Parsing, aber prefill-schwere Aufgaben (Kontextgenerierung) erfordern Cloud wegen Verzögerungen von 15-20 Sek./Chunk.

RAG-Optimierung für rechtliche Aufgaben

Entwickler haben RAG auf rechtlichen PDFs im Agentic RAG Legal Challenge getestet. Hybrider Ansatz mit semantischem Chunking und LLM-Reranking erreichte 0.78 Total-Score. Schlüssel — Wachstum des Groundings von 0.45 auf 0.90.

By Sudonull Editorial Team • Published 2026-04-14 • Updated 2026-04-14

RAG für Rechtsdokumente optimieren: Erfahrungen aus der Agentic-RAG-Rechtschallenges

Das Entwicklungsteam testete RAG an einem Korpus juristischer Dokumente aus der Agentic-RAG-Rechtschallenges. Der Fokus lag auf der Verbesserung der Grundlage (Grounding) und der Zitiergenauigkeit. Dokumente aus dem DIFC (Gerichtsurteile, Gesetze, Verordnungen) wurden aus PDFs mittels visueller Seitenumwandlung in Bilder extrahiert und anschließend in Markdown konvertiert. Die Verarbeitung erfolgte mit Qwen 3.5-9b auf einem Mac Studio M3 Ultra.

Semantische Chunking mittels FRIDA (dicht) und GTE (spärlich) unterteilte 30 Dokumente in etwa 2.000 Abschnitte. Jeder Abschnitt enthält:

text: eine vollständige Aussage oder Tatsache
path: Identifikator des Quelldokuments
context: Beschreibung des Kontextes innerhalb des Dokuments

Der Kontext wird durch ein LLM (Qwen) generiert, wobei sowohl der Abschnitt als auch das gesamte Dokument als Eingabe dienen. Dies kompensiert den Verlust an Kohärenz bei der Aufteilung. Die Embeddings werden in Qdrant gespeichert. Die Indexierung von 30 Dokumenten dauerte ca. zwei Stunden, wobei die Hauptengpässe in der Pre-fill-Latenz während der Kontextgenerierung lagen (15–20 Sekunden pro Abschnitt lokal).

Antwortgenerierungspipeline

Für jede Abfrage:

Absicht: Das LLM generiert alternative Suchanfragen.
Auswahl: Vektorisiert über FRIDA/GTE, gesucht in Qdrant mittels RRF, liefert die besten N-Abschnitte. Das LLM re-rankt und filtert relevante Abschnitte.
Antwort: Gefilterte Abschnitte werden dem LLM mit Anweisung zur Antworterstellung und expliziter Zitierung bestimmter Abschnittsnummern zur Sicherung der Grundlage zugeführt.

Wettbewerbsmetriken: Total = (0,7 × S_det + 0,3 × S_asst) × G × T × F. Wichtigster Faktor G (Grounding) validiert die Referenz zu Seitennummern. S_det misst die Präzision deterministischer Antworten (Boolesch, Datum, Name, Zahl). S_asst bewertet die Qualität freitextbasierter Antworten mittels LLM-basierter Bewertung.

Experimentelle Ergebnisse und Benchmarks

15 Vorlaufläufe (30 Dokumente, 100 Fragen) zeigten eine Fortschrittsentwicklung von der Basis-RAG zu optimierten Versionen. Schlüsseliterationen:

|--------|--------|---------|---|--------|

| v3 (GPT-5.4) | 0,843 | 0,667 | 0,451 | 0,362 |

| v5 (CAG Qwen 1M) | 0,971 | 0,553 | 0,563 | 0,403 |

| v6 (BM25) | 0,943 | 0,540 | 0,390 | 0,269 |

| v7 (BM25 + semantisches RRF) | 0,871 | 0,567 | 0,717 | 0,468 |

| v11 (MORAG v3) | 1,000 | 0,680 | 0,757 | 0,664 |

| v15 (Endversion) | 0,986 | 0,733 | 0,901 | 0,780 |

G stieg von 0,45 auf 0,90 – dies war entscheidend für den Erfolg. Reiner BM25 erzielte die schlechtesten Ergebnisse (Total: 0,269). CAG (vollständiger Kontext im Prompt mit 350K Tokens in Qwen 3.5-Flash) übertraf bei S_det (0,971), scheiterte aber am Grounding.

OpenAIs integriertes RAG für PDFs erreichte 0,362 – akzeptable Genauigkeit, aber schlechte Zitierqualität.

Vergleich der Ansätze: RAG vs. Alternativen

BM25: Schnelle Stichwort-Suche (TF-IDF), ignoriert Semantik – niedriges G (0,390).
CAG: Vollständiger Kontext im Prompt (1M Tokens), hohe S_det, aber Grounding leidet ohne explizite Referenzen.
Hybrid-RAG (MORAG): FRIDA/GTE + RRF + LLM-Re-Ranking + frageartbasierte Inferenz. Erzielte 1,000 S_det, 0,901 G.

Agenter Aspekt: Nach der Auswahl entscheidet das Modell autonom über nächste Schritte (Inferenz an/aus, Karten festlegen).

MORAG (github.com/catonmoon/morag) übertraf OpenAI/Groks integriertes RAG in allen Metriken.

Der Mac Studio M3 Ultra verarbeitete die Indexierung effizient (native Embeddings), zeigte jedoch Schwächen bei prefill-intensiven Aufgaben – Wechsel zu OpenRouter.

Wichtige Erkenntnisse

Grounding (G) ist der dominierende Faktor: Selbst perfekte Antworten scheitern ohne präzise Seitenangaben.
Hybride Suche (dicht + spärlich + RRF) + LLM-Re-Ranking steigert die Relevanz der Abschnitte deutlich.
Semantisches Chunking mit Kontextgenerierung bewahrt Kohärenz ohne Overhead großer LLMs.
Frageart bestimmt Modus: Inferenz für Freitext, direkte Antwort für deterministische Ausgaben.

— Editorial Team

RAG-Optimierung für rechtliche Aufgaben