Zpět na domů

Jeskynní LLM: úspora tokenů až 87%

Metoda jeskynního stylu pro LLM snižuje výstupní tokeny o 65 % v průměru při zachování technické přesnosti. Benchmarky ukazují úsporu až 87 % na úkolech jako React a PostgreSQL. Navíc snižuje vstupní paměťové soubory o 45 %.

Caveman LLM: mínus 87 % tokenů bez ztráty podstaty
Advertisement 728x90

Redukce tokenů LLM v jeskynním stylu: úspora až 87%

Vývojáři zjistili, že nucení LLM do stylu jeskynního člověka – krátké fráze bez členů, zdvořilosti a úvodních konstrukcí – snižuje spotřebu výstupních tokenů v průměru o 65%. Na úkolech jako vysvětlení bugů v Reactu nebo nastavení PostgreSQL dosahuje úspora až 87%. Tento přístup zachovává přesnost a technickou podstatu, odstraňuje pouze slovní obal.

Příklad na React re-render (obyčejná odpověď: 69 tokenů):

The reason your React component is re-rendering is likely because you're creating a new object reference on each render cycle. When you pass an inline object as a prop, React's shallow comparison sees it as a different object every time, which triggers a re-render. I'd recommend using useMemo to memoize the object.

Jeskynní styl (19 tokenů):

Google AdInline article slot
New object ref each render. Inline object prop = new ref = re-render. Wrap in useMemo.

Co se odstraňuje a co zůstává

RLHF dělá moderní modely mnohomluvnými: "Samozřejmě, pomůžu", "Pojďme to rozebrat krok za krokem". Jeskynní styl to filtruje, zaměřuje se na podstatu.

| Prvek | Akce |

|---------|----------|

Google AdInline article slot

| Vysvětlení | Odstraní vodu, ponechá podstatu |

| Bloky kódu | Nedotýká se |

| Technické termíny | Zachovává (polymorfismus zůstává polymorfismus) |

Google AdInline article slot

| Členy (a/an/the) | Odstraněny |

| Zdvořilost | Odstraněna |

| Opatrné formulace | Odstraněny |

Zbytečné fráze, které plýtvají tokeny:

  • "I'd be happy to help you with that" — 8 tokenů
  • "The reason this is happening is because" — 7 tokenů
  • "I would recommend that you consider" — 7 tokenů
  • "Sure, let me take a look at that for you" — 10 tokenů

Benchmarky výkonnosti

Měření přes Claude API ukazují rozptyl úspory od 22% do 87%:

| Úkol | Obyčejný (tokeny) | Jeskynní (tokeny) | Úspora |

|--------|-------------------|-------------------|----------|

| Bug re-render React | 1180 | 159 | 87% |

| Oprava auth middleware | 704 | 121 | 83% |

| PostgreSQL pool | 2347 | 380 | 84% |

| git rebase vs merge | 702 | 292 | 58% |

| Callback → async/await | 387 | 301 | 22% |

| Mikroservisy vs monolit | 446 | 310 | 30% |

| PR recenze bezpečnost | 678 | 398 | 41% |

| Docker multi-stage | 1042 | 290 | 72% |

| Race condition PostgreSQL | 1200 | 232 | 81% |

| React error boundary | 3454 | 456 | 87% |

Průměr: 1214 → 294 tokenů, 65% úspora. Větší zisk na vysvětlovacích úkolech.

Výzkum z roku 2026 potvrzuje: omezení stručností zvyšuje přesnost o 26 p. b. v benchmarkech – model se vyhýbá halucinacím od nadbytečných slov.

Úrovně jeskynnosti

  • Lite: Bez vody, ale čitelně.

Your component re-renders because you create a new object reference each render. Inline object props fail shallow comparison every time. Wrap it in useMemo.

  • Full: Krátké fráze.

New object ref each render. Inline object prop = new ref = re-render. Wrap in useMemo.

  • Ultra: Maximum komprese.

Inline obj prop → new ref → re-render. useMemo.

Komprese vstupních tokenů

Caveman Compress přepisuje soubory paměti (CLAUDE.md) do jeskynního stylu pro Claude Code. Příkaz:

/caveman-compress CLAUDE.md

Výsledek: komprimovaný CLAUDE.md (pro model) + originál (pro editaci).

| Soubor | Před (tokeny) | Po (tokeny) | Úspora |

|------|--------------|-----------------|----------|

| claude-md-preferences.md | 706 | 285 | 59.6% |

| project-notes.md | 1145 | 535 | 53.3% |

| claude-md-project.md | 1122 | 687 | 38.8% |

| todo-list.md | 627 | 388 | 38.1% |

| mixed-with-code.md | 888 | 574 | 35.4% |

Průměr: 45% úspora. Spolu s jeskynním stylem – optimalizace vstupu/výstupu.

Co je důležité

  • Úspora výstupních tokenů: 65% průměrná, až 87% na složitých vysvětleních.
  • Technická přesnost zachována: kód, termíny, chyby – beze změn.
  • Tři režimy od Lite do Ultra pro rovnováhu stručnosti a čitelnosti.
  • Komprese vstupních souborů: 45% na CLAUDE.md a podobných.
  • Potvrzení výzkumů: stručnost zvyšuje přesnost o 26 p. b.

— Editorial Team

Advertisement 728x90

Číst dál