Redukce tokenů LLM v jeskynním stylu: úspora až 87%
Vývojáři zjistili, že nucení LLM do stylu jeskynního člověka – krátké fráze bez členů, zdvořilosti a úvodních konstrukcí – snižuje spotřebu výstupních tokenů v průměru o 65%. Na úkolech jako vysvětlení bugů v Reactu nebo nastavení PostgreSQL dosahuje úspora až 87%. Tento přístup zachovává přesnost a technickou podstatu, odstraňuje pouze slovní obal.
Příklad na React re-render (obyčejná odpověď: 69 tokenů):
The reason your React component is re-rendering is likely because you're creating a new object reference on each render cycle. When you pass an inline object as a prop, React's shallow comparison sees it as a different object every time, which triggers a re-render. I'd recommend using useMemo to memoize the object.
Jeskynní styl (19 tokenů):
New object ref each render. Inline object prop = new ref = re-render. Wrap in useMemo.
Co se odstraňuje a co zůstává
RLHF dělá moderní modely mnohomluvnými: "Samozřejmě, pomůžu", "Pojďme to rozebrat krok za krokem". Jeskynní styl to filtruje, zaměřuje se na podstatu.
| Prvek | Akce |
|---------|----------|
| Vysvětlení | Odstraní vodu, ponechá podstatu |
| Bloky kódu | Nedotýká se |
| Technické termíny | Zachovává (polymorfismus zůstává polymorfismus) |
| Členy (a/an/the) | Odstraněny |
| Zdvořilost | Odstraněna |
| Opatrné formulace | Odstraněny |
Zbytečné fráze, které plýtvají tokeny:
- "I'd be happy to help you with that" — 8 tokenů
- "The reason this is happening is because" — 7 tokenů
- "I would recommend that you consider" — 7 tokenů
- "Sure, let me take a look at that for you" — 10 tokenů
Benchmarky výkonnosti
Měření přes Claude API ukazují rozptyl úspory od 22% do 87%:
| Úkol | Obyčejný (tokeny) | Jeskynní (tokeny) | Úspora |
|--------|-------------------|-------------------|----------|
| Bug re-render React | 1180 | 159 | 87% |
| Oprava auth middleware | 704 | 121 | 83% |
| PostgreSQL pool | 2347 | 380 | 84% |
| git rebase vs merge | 702 | 292 | 58% |
| Callback → async/await | 387 | 301 | 22% |
| Mikroservisy vs monolit | 446 | 310 | 30% |
| PR recenze bezpečnost | 678 | 398 | 41% |
| Docker multi-stage | 1042 | 290 | 72% |
| Race condition PostgreSQL | 1200 | 232 | 81% |
| React error boundary | 3454 | 456 | 87% |
Průměr: 1214 → 294 tokenů, 65% úspora. Větší zisk na vysvětlovacích úkolech.
Výzkum z roku 2026 potvrzuje: omezení stručností zvyšuje přesnost o 26 p. b. v benchmarkech – model se vyhýbá halucinacím od nadbytečných slov.
Úrovně jeskynnosti
- Lite: Bez vody, ale čitelně.
Your component re-renders because you create a new object reference each render. Inline object props fail shallow comparison every time. Wrap it in useMemo.
- Full: Krátké fráze.
New object ref each render. Inline object prop = new ref = re-render. Wrap in useMemo.
- Ultra: Maximum komprese.
Inline obj prop → new ref → re-render. useMemo.
Komprese vstupních tokenů
Caveman Compress přepisuje soubory paměti (CLAUDE.md) do jeskynního stylu pro Claude Code. Příkaz:
/caveman-compress CLAUDE.md
Výsledek: komprimovaný CLAUDE.md (pro model) + originál (pro editaci).
| Soubor | Před (tokeny) | Po (tokeny) | Úspora |
|------|--------------|-----------------|----------|
| claude-md-preferences.md | 706 | 285 | 59.6% |
| project-notes.md | 1145 | 535 | 53.3% |
| claude-md-project.md | 1122 | 687 | 38.8% |
| todo-list.md | 627 | 388 | 38.1% |
| mixed-with-code.md | 888 | 574 | 35.4% |
Průměr: 45% úspora. Spolu s jeskynním stylem – optimalizace vstupu/výstupu.
Co je důležité
- Úspora výstupních tokenů: 65% průměrná, až 87% na složitých vysvětleních.
- Technická přesnost zachována: kód, termíny, chyby – beze změn.
- Tři režimy od Lite do Ultra pro rovnováhu stručnosti a čitelnosti.
- Komprese vstupních souborů: 45% na CLAUDE.md a podobných.
- Potvrzení výzkumů: stručnost zvyšuje přesnost o 26 p. b.
— Editorial Team
Zatím žádné komentáře.