# Ekonomika LLM v éře nedostatku výpočetních výkonů: strategie TCO pro rok 2026
V roce 2026 nedostatek výpočetních kapacit a změna cenové politiky předních poskytovatelů LLM nutí společnosti přepočítávat Total Cost of Ownership. Zaměření se posouvá z ceny za token na náklady na řešení úlohy — klíčové faktory nyní zahrnují skryté výdaje režimů reasoning a inflaci tokenizátoru. Experimenty s tarify flat-rate ustupují modelům usage-based, zatímco self-host přechází z kategorie optimalizace na povinný hedge proti cenovým šokům.
Proč cena za token už není hlavní metrika
Anthropic a OpenAI současně změnily přístup k cenotvoření. Usage-based billing pro agentní frameworky a flexibilní firemní cenotvoření dělají fixní předplatné historií. Přitom skutečné náklady na řešení úlohy rostou i při stabilní ceně za token kvůli třem systémovým faktorům:
- Skryté tokeny v režimech reasoning. Modely jako GPT-5.4 Thinking generují řetězce uvažování, které nejsou vidět ve finální odpovědi. Koeficient režijních nákladů závisí na úrovni effort: od 1.5–2x (medium) po 3–4x (xhigh). Přesná data poskytovatelé neodhalují — měřte je ve svých logách.
- Inflace tokenizátoru. Aktualizované tokenizátory (Opus 4.7) generují až o 35 % více tokenů pro stejný text, zejména v kódu a neanglickém obsahu. Při nezměněné ceně to znamená přímý růst nákladů.
- Posun k složitějším úlohám. Autonomní agenti zpracovávají více úloh zvýšené složitosti, což zvyšuje celkovou spotřebu bez změny počtu uživatelů.
Tyto efekty se sčítají: při 100 milionů tokenů/měsíc mohou skutečné náklady překročit plán o 30–50 % i bez změny cen poskytovatelů. Paralelně compute crunch situaci zhoršuje — zpoždění dodávek H100/B200 a přirážky až 40 % dělají self-host ne alternativou, ale povinnou součástí strategie.
Tři režimy zatížení a jejich ekonomika
Strategie TCO závisí na typu zatížení. Pro každý režim platí svá kritéria optimality:
Experimenty (PoC, prompt engineering). Zde dominují rychlost a kvalita. Používejte frontier API i při vysokých nákladech — investice do infrastruktury nejsou oprávněné bez jasného zdůvodnění potřeby lokálního modelu. Vedoucí ML-týmů, který žádá o GPU-klastr „pro ověření myšlenky“, musí poskytnout důkazy, že úlohu nelze vyřešit přes API.
Production workload (předvídatelný provoz, SLA, citlivá data). Klíčová otázka: při jakém objemu API přestává být optimální? Open-source soutěží ne o kvalitu, ale o náklady „dostatečně dobrého“ řešení. Práh návratnosti self-host závisí na regulačních požadavcích a dostupnosti interních inženýrů.
Odolnost (hedge proti rizikům). V roce 2026 to není „možné riziko“, ale samostatná položka rozpočtu. Cena zahrnuje ochranu před: cenovými šoky (jako u Anthropic v dubnu 2026), riziky zásob (rate limits, ToS) a regulačními požadavky (lokální data).
Jak počítat TCO: vzorec a skryté kameny
Základní vzorec pro výpočty API:
TCO_tokens = (input × price_in + output × price_out × effective_mult)
× 12 × tok_inflation × (1 + overhead)Kde effective_mult je vážený průměrný multiplikátor pro output-tokeny:
effective_mult = simple_share + reasoning_share × reasoning_multiplierKritické nuance:
- Reasoning_multiplier se aplikuje POUZE na output-tokeny
- Inflace tokenizátoru se průměruje podle vašeho obsahu (1.15x pro rusko-anglický mix)
- Overhead (15–30 %) zahrnuje retry při 5xx, fallback na drahé modely, cache miss
Příklad pro 100 milionů tokenů/měsíc (70M input / 30M output) přes Opus 4.7 ($5/$25):
- effective_mult = 0.8 × 1 + 0.2 × 2.5 = 1.3
- Měsíční základ: 70M × $5 + 30M × $25 × 1.3 = $1,325
- Roční s inflací (1.15x) a overhead (20 %): $21,942
- Plus FTE ($20K) a compliance ($15K): ~$57K/rok
Při agresivních scénářích (50 % reasoning, multiplikátor 4x) náklady dosáhnou $75K/rok. Důležité: tyto čísla jsou orientační, skutečné hodnoty měřte ve svých logách.
Nejběžnější chyba: podceňování nákladů na lidi
U self-host tvoří 60–75 % TCO FTE, ne hardware. Příklad pro 70B-model (3× A100):
- GPU: $79,200/rok
- FTE (3.5 inženýra): $350,000/rok
- Celkem: $519K/rok → podíl hardwaru jen 15 %
Proč 3.5 FTE:
- Eval pipeline (0.5 místa): systematická evaluace kvality
- Model updates (2–4 týdny každé 3–6 měsíců): testování, retuning promptů
- Security/compliance: audit logů, certifikace
- On-call: pády nodů, OOM při špičkách, rate-limiter
Závěr: self-host je ekonomicky výhodný POUZE pokud:
- Máte již zralou ML-platformu
- FTE se nepřidávají kvůli LLM, ale přerozdělují
- Objem překračuje 500 milionů tokenů/měsíc
Hybrid jako kompromis: anonymizace přes lokální model
Samostatný scénář pro regulované sektory — použití 7–14B-modelu jako brány anonymizace. Lokální model nahrazuje osobní údaje placeholdery před odesláním do frontier API, poté konvertuje odpověď zpět.
Ekonomika:
- Self-host 7–14B pro anonymizaci: $30–50K/rok
- Frontier API (hlavní inferenční): ~$57K/rok
- Celkové TCO: $90–120K/rok oproti $308–495K pro plný self-host
Důležité: infrastrukturní overhead zůstává (ML-infra, DevOps, compliance), ale hlavní zatížení jde do API. Tento pattern se stává optimálním pro banky, medicínu a další regulované oblasti.
Matice rozhodování
Binární volba „build nebo buy“ je zastaralá. Rozhodnutí závisí na čtyřech osách:
Objem (tokenů/měsíc)
- <10M: vždy API
- 10–500M: závisí na dalších faktorech
- 500M+: self-host vyhrává při dostupnosti interních inženýrů
Regulační požadavky
- Přísná lokalizace: self-host nebo hybrid s anonymizací
- Mírné požadavky: hosted OSS
Kvalita vs. náklady
- Frontier API pro kritické úlohy
- Open-source pro „dostatečně dobrý“ level
Dostupnost ML-expertise
- Bez zralé ML-platformy: API
- S platformou: self-host se vrátí rychleji
Co je důležité
- Počítejte ne tokeny, ale náklady na řešení úlohy. Měřte reasoning overhead a inflaci tokenizátoru na svých datech.
- 60 % TCO self-host — to jsou lidé. Bez interních inženýrů ekonomika nefunguje ani u velkých objemů.
- Hybrid s anonymizací — optimální cesta pro regulované odvětví. Snižuje TCO o 40 % oproti plnému self-host.
- Compute crunch vyžaduje hedging. Zahrňte do rozpočtu položku „odolnost“ jako povinnou.
— Editorial Team
Zatím žádné komentáře.