LLM-Wiki nach Karpathy-Methode: Automatisierung

## Automatisierte Wiki mit LLM: Andrey Karpathys Methode für IT-Profis

Andrey Karpathy nutzt LLM, um strukturierte Wikis aus Rohmaterialien zu erstellen: Artikeln, wissenschaftlichen Publikationen, Repositories und Datensätzen. Die Materialien werden in einen einzigen Ordner gesammelt, woraufhin das Modell eine Sammlung von Markdown-Dateien erzeugt. Dazu gehören Zusammenfassungen, Querverweise und eigenständige Artikel zu zentralen Konzepten. Eine Wissensbasis umfasst etwa 100 Dokumente mit insgesamt 400.000 Wörtern – alles automatisch generiert, ohne manuelle Eingriffe.

Der Ansatz macht RAG-Pipelines überflüssig. Das LLM verwaltet eigenständig Indizes, Dokumentenzusammenfassungen und holt relevante Ausschnitte ab, ohne zusätzliche Infrastruktur. Zum Browsen eignet sich Obsidian; für Präsentationen Marp.

Zyklus der Selbstanreicherung der Wissensbasis

Das System läuft in einer geschlossenen Schleife: Abfrageergebnisse werden zurück in die Wiki gefüttert. Dazu zählen Antworten auf Fragen, generierte Diagramme und Folien. Die Anreicherung erfolgt automatisch und verbessert die Qualität zukünftiger Interaktionen.

Das LLM führt Integritätsprüfungen durch:

• Erkennung von Widersprüchen zwischen Dokumenten.
• Schließen von Lücken durch Web-Suche.
• Vorschläge für Themen neuer Artikel.

Diese Architektur ermöglicht es der Wissensbasis, sich ohne externe Eingriffe weiterzuentwickeln. Indexdateien sorgen für reibungslose Navigation, während Dokumentenbeschreibungen die Abrufgeschwindigkeit erhöhen.

Oberfläche und Tools

Obsidian dient als Hauptinterface zur Navigation der Markdown-Struktur. Seine Unterstützung für Wissensgraphen und Plugins erleichtert die Visualisierung von Verbindungen zwischen Konzepten. Marp wandelt Dateien in Präsentationsfolien um, ohne das Format zu verändern.

Keine eigene Infrastruktur bedeutet einfache Bereitstellung. Der LLM-Agent übernimmt alles von der Kompilierung bis zu Abfragen. So ist die Methode für Mid- und Senior-Developer zugänglich, die mit großen Datenkorpora arbeiten.

Entwicklungsperspektiven

Zukünftige Erweiterungen umfassen synthetische Daten und Fine-Tuning. Das LLM könnte die Wissensbasis direkt in seine Gewichte integrieren und so Kontextfensterlimits umgehen. Das würde Latenz reduzieren und Genauigkeit steigern.

Die aktuelle Umsetzung ist eine Sammlung von Skripten, doch das Potenzial für ein vollwertiges Produkt ist offensichtlich. Automatisierte Wissensbasen lösen Kurationsherausforderungen für Technikexperten.

Wichtige Punkte:

• LLM indexiert und ruft Daten eigenständig ab, ohne RAG.
• Feedback-Schleife reichert die Basis mit Antworten und Diagrammen an.
• Gesundheitschecks erkennen Widersprüche und Lücken.
• Obsidian + Marp als sofort einsatzbereiter Interface-Stack.
• Ausblick: Fine-Tuning zur Internalisierung von Wissen.

Die Methode skaliert auf jedes Fachgebiet: von ML-Forschung bis zu Unternehmenswissen. Alles, was Sie brauchen, ist ein LLM mit Agentenfähigkeiten und Markdown-Rendering.

— Editorial Team