# Ekonomia LLM w erze niedoboru mocy obliczeniowych: strategie TCO na 2026
W 2026 roku niedobór mocy obliczeniowych i zmiana polityki cenowej wiodących dostawców LLM zmuszają firmy do ponownego przeliczania Total Cost of Ownership. Nacisk przesuwa się z ceny za token na koszt rozwiązania zadania — kluczowe czynniki teraz obejmują ukryte koszty trybów reasoning i inflację tokenizatora. Eksperymenty z taryfami flat-rate ustępują miejsca modelom usage-based, a self-host przechodzi z kategorii optymalizacji w obowiązkowy hedge przeciwko szokom cenowym.
Dlaczego cena za token nie jest już głównym wskaźnikiem
Anthropic i OpenAI jednocześnie zmieniły podejście do ustalania cen. Usage-based billing dla agentowych frameworków i elastyczne korporacyjne cenniki sprawiają, że stałe subskrypcje odchodzą do lamusa. Przy tym rzeczywisty koszt rozwiązania zadania rośnie nawet przy stabilnej cenie za token z powodu trzech systemowych czynników:
- Ukryte tokeny w trybach reasoning. Modele typu GPT-5.4 Thinking generują łańcuchy rozumowań niewidoczne w ostatecznej odpowiedzi. Współczynnik narzutów zależy od poziomu effort: od 1.5–2x (medium) do 3–4x (xhigh). Dokładnych danych dostawcy nie ujawniają — mierzcie na swoich logach.
- Inflacja tokenizatora. Zaktualizowane tokenizatory (Opus 4.7) generują do 35% więcej tokenów na ten sam tekst, zwłaszcza w kodzie i nieanglojęzycznej treści. Przy niezmienionym cenniku to bezpośredni wzrost kosztów.
- Przesunięcie w stronę złożonych zadań. Autonomiczni agenci obsługują więcej zadań o podwyższonej złożoności, zwiększając całkowity wolumen zużycia bez zmiany liczby użytkowników.
Te efekty się sumują: przy 100 mln tokenów/mies. rzeczywiste koszty mogą przekroczyć plan o 30–50% nawet bez zmiany cen dostawców. Równolegle compute crunch pogarsza sytuację — opóźnienia w dostawach H100/B200 i narzuty do 40% czynią self-host nie alternatywą, lecz obowiązkowym elementem strategii.
Trzy tryby obciążenia i ich ekonomia
Strategia TCO zależy od typu obciążenia. Dla każdego trybu własne kryteria optymalności:
Eksperymenty (PoC, prompt engineering). Tu dominują prędkość i jakość. Używajcie frontier API nawet przy wysokiej cenie — inwestycje w infrastrukturę są nieuzasadnione bez jasnego uzasadnienia potrzeby lokalnego modelu. Lider zespołu ML żądający klastra GPU „do sprawdzenia pomysłu” powinien dostarczyć dowody, że zadanie nie da się rozwiązać przez API.
Production workload (przewidywalny ruch, SLA, wrażliwe dane). Kluczowe pytanie: przy jakim wolumenie API przestaje być optymalne? Open-source konkuruje nie jakością, lecz kosztem „wystarczająco dobrego” rozwiązania. Próg rentowności self-host zależy od wymogów regulacyjnych i nalichiya etatowych inżynierów.
Odporność (hedge przeciwko ryzykom). W 2026 roku to nie „możliwe ryzyko”, lecz osobna pozycja w budżecie. Cena obejmuje ochronę przed: szokami cenowymi (jak u Anthropic w kwietniu 2026), ryzykami podażowymi (rate limits, ToS) i wymogami regulacyjnymi (lokalizacja danych).
Jak obliczać TCO: formuła i pułapki
Podstawowa formuła dla obliczeń API:
TCO_tokens = (input × price_in + output × price_out × effective_mult)
× 12 × tok_inflation × (1 + overhead)Gdzie effective_mult — średniowazony mnożnik dla tokenów output:
effective_mult = simple_share + reasoning_share × reasoning_multiplierKrytyczne niuanse:
- Reasoning_multiplier stosuje się TYLKO do tokenów output
- Inflacja tokenizatora uśredniana po waszej treści (1.15x dla miksu rosyjsko-angielskiego)
- Overhead (15–30%) obejmuje retry przy 5xx, fallback na drogie modele, cache miss
Przykład dla 100 mln tokenów/mies. (70M input / 30M output) przez Opus 4.7 ($5/$25):
- effective_mult = 0.8 × 1 + 0.2 × 2.5 = 1.3
- Miesięczna baza: 70M × $5 + 30M × $25 × 1.3 = $1,325
- Roczna z inflacją (1.15x) i overhead (20%): $21,942
- Plus FTE ($20K) i compliance ($15K): ~$57K/rok
Przy agresywnych scenariuszach (50% reasoning, multiplier 4x) koszty sięgają $75K/rok. Ważne: te liczby to orientacja, rzeczywiste wartości mierzcie na swoich logach.
Najczęstszy błąd: niedoszacowanie kosztów ludzi
W self-host 60–75% TCO przypada na FTE, a nie na sprzęt. Przykład dla modelu 70B (3× A100):
- GPU: $79,200/rok
- FTE (3.5 inżyniera): $350,000/rok
- Razem: $519K/rok → udział sprzętu zaledwie 15%
Dlaczego potrzeba 3.5 FTE:
- Eval pipeline (0.5 etatu): systematyczna ocena jakości
- Aktualizacje modelu (2–4 tygodnie co 3–6 mies.): testy, retuning promptów
- Security/compliance: audyt logów, certyfikacja
- Dyżury: awarie nodów, OOM przy pikach, rate-limiter
Wniosek: self-host jest ekonomicznie opłacalny TYLKO jeśli:
- Macie już dojrzałą platformę ML
- FTE nie są dodawani dla LLM, lecz przerzucani
- Wolumen przekracza 500 mln tokenów/mies.
Hybryda jako kompromis: anonimizacja przez lokalny model
Osobny scenariusz dla regulowanych branż — użycie modelu 7–14B jako bramy anonimizacji. Lokalny model zastępuje dane osobowe placeholderami przed wysłaniem do frontier API, potem konwertuje odpowiedź z powrotem.
Ekonomia:
- Self-host 7–14B do anonimizacji: $30–50K/rok
- Frontier API (główny inferens): ~$57K/rok
- Końcowy TCO: $90–120K/rok wobec $308–495K dla pełnego self-host
Ważne: infrastrukturalny overhead zostaje (ML-infra, DevOps, compliance), ale główna obciążenie idzie do API. Ten wzorzec staje się optymalny dla banków, medycyny i innych regulowanych sektorów.
Matryca decyzji
Binarny wybór „build czy buy” wyszedł z mody. Decyzja zależy od czterech osi:
Wolumenu (tokenów/mies.)
- <10M: zawsze API
- 10–500M: zależy od innych czynników
- 500M+: self-host wygrywa przy nalichii etatowych inżynierów
Wymogów regulacyjnych
- Sztywna lokalizacja: self-host lub hybryda z anonimizacją
- Umiarkowane wymagania: hosted OSS
Jakość vs koszt
- Frontier API dla krytycznych zadań
- Open-source dla „wystarczająco dobrego” poziomu
Obecność ekspertyzy ML
- Bez dojrzałej platformy ML: API
- Z platformą: self-host zwraca się szybciej
Co ważne
- Obliczajcie nie tokeny, lecz koszt rozwiązania zadania. Mierzcie reasoning overhead i inflację tokenizatora na swoich danych.
- 60% TCO self-host to ludzie. Bez etatowych inżynierów ekonomia się nie spina nawet przy dużych wolumenach.
- Hybryda z anonimizacją — optymalna ścieżka dla regulowanych branż. Obniża TCO o 40% w porównaniu z pełnym self-host.
- Compute crunch wymaga hedgingu. Włączajcie w budżet pozycję „odporność” jako obowiązkową.
— Editorial Team
Brak komentarzy.