TCO LLM en 2026: estrategias para calcular costos en modelos

## Economía de los LLM en la era de la escasez de cómputo: Estrategias de TCO para 2026

En 2026, las escaseces de cómputo y los cambios en las políticas de precios de los principales proveedores de LLM están obligando a las empresas a recalcular su coste total de propiedad. El enfoque está pasando de los precios por token al coste de resolver tareas: ahora los factores clave incluyen los costes ocultos de los modos de razonamiento e inflación del tokenizador. Los experimentos con planes de tarifa plana están dando paso a modelos basados en uso, mientras que el autoalojamiento pasa de ser una táctica de optimización a una cobertura obligatoria contra shocks de precios.

Por qué el precio por token ya no es la métrica principal

Anthropic y OpenAI han cambiado simultáneamente su enfoque de precios. La facturación basada en uso para marcos de agentes y los precios empresariales flexibles hacen que las suscripciones fijas sean cosa del pasado. Mientras tanto, el coste real de resolver tareas está aumentando incluso con precios por token estables debido a tres factores sistémicos:

• Tokens ocultos en modos de razonamiento. Modelos como GPT-5.4 Thinking generan cadenas de pensamiento invisibles en la respuesta final. El coeficiente de sobrecarga depende del nivel de esfuerzo: de 1.5–2x (medio) a 3–4x (alto). Los proveedores no divulgan datos exactos: mídalo en sus propios registros.
• Inflación del tokenizador. Tokenizadores actualizados (Opus 4.7) generan hasta un 35% más de tokens para el mismo texto, especialmente en código y contenido no inglés. Con precios sin cambios, esto implica aumentos directos de costes.
• Cambio hacia tareas complejas. Los agentes autónomos manejan más tareas de alta complejidad, aumentando el consumo general sin cambiar el número de usuarios.

Estos efectos se acumulan: para 100 millones de tokens/mes, los costes reales pueden superar el plan en un 30–50% incluso sin cambios de precios por parte del proveedor. Mientras tanto, la crisis de cómputo agrava la situación: retrasos en entregas de H100/B200 y recargos de hasta el 40% hacen que el autoalojamiento no sea una alternativa, sino un componente obligatorio de la estrategia.

Tres modos de carga de trabajo y su economía

La estrategia de TCO depende del tipo de carga de trabajo. Cada modo tiene sus propios criterios de optimalidad:

Experimentos (PoC, ingeniería de prompts). Aquí, la velocidad y la calidad dominan. Use APIs de vanguardia incluso a alto coste: las inversiones en infraestructura no están justificadas sin prueba clara de la necesidad de un modelo local. Un líder de equipo de ML que solicite un clúster de GPU «para probar una idea» debe proporcionar evidencia de que la tarea no se puede resolver vía API.

Cargas de producción (tráfico predecible, SLA, datos sensibles). Pregunta clave: ¿a qué volumen deja de ser óptima la API? El código abierto compite no por calidad, sino por el coste de una solución «suficientemente buena». El punto de equilibrio del autoalojamiento depende de requisitos regulatorios y disponibilidad de ingenieros internos.

Resiliencia (cobertura contra riesgos). En 2026, esto no es un «riesgo posible», sino una línea presupuestaria separada. El precio incluye protección contra: shocks de precios (como el de Anthropic en abril de 2026), riesgos de suministro (límites de tasa, ToS) y requisitos regulatorios (localización de datos).

Cómo calcular el TCO: Fórmula y trampas

Fórmula básica para cálculos de API:

TCO_tokens = (input × price_in + output × price_out × effective_mult)
             × 12 × tok_inflation × (1 + overhead)

Donde effective_mult es el multiplicador promedio ponderado para tokens de salida:

effective_mult = simple_share + reasoning_share × reasoning_multiplier

Matizaciones críticas:

• El multiplicador de razonamiento se aplica SOLO a tokens de salida
• La inflación del tokenizador se promedia sobre su contenido (1.15x para mezcla ruso-inglés)
• La sobrecarga (15–30%) incluye reintentos en 5xx, retrocesos a modelos caros, fallos de caché

Ejemplo para 100 millones de tokens/mes (70M entrada / 30M salida) vía Opus 4.7 ($5/$25):

• effective_mult = 0.8 × 1 + 0.2 × 2.5 = 1.3
• Base mensual: 70M × $5 + 30M × $25 × 1.3 = $1,325
• Anual con inflación (1.15x) y sobrecarga (20%): $21,942
• Más personal a tiempo completo ($20K) y cumplimiento ($15K): ~$57K/año

En escenarios agresivos (50% razonamiento, multiplicador 4x), los costes alcanzan $75K/año. Importante: estos son puntos de referencia; mida valores reales en sus registros.

El error más común: Subestimar los costes de personal

En autoalojamiento, el 60–75% del TCO proviene del personal a tiempo completo, no del hardware. Ejemplo para modelo 70B (3× A100):

• GPUs: $79,200/año
• Personal a tiempo completo (3.5 ingenieros): $350,000/año
• Total: $519K/año → participación del hardware solo 15%

Por qué 3.5 de personal a tiempo completo:

• Pipeline de evaluación (0.5): evaluación sistemática de calidad
• Actualizaciones de modelo (2–4 semanas cada 3–6 meses): pruebas, reafinación de prompts
• Seguridad/cumplimiento: auditorías de registros, certificación
• Guardia: fallos de nodos, OOM en picos, limitación de tasa

Conclusión: El autoalojamiento es económicamente viable SOLO si:

• Ya tiene una plataforma de ML madura
• El personal a tiempo completo no se añade solo para LLM, sino que se reasigna
• El volumen supera los 500 millones de tokens/mes

Híbrido como compromiso: Anonimización vía modelo local

Un escenario separado para industrias reguladas: usar un modelo 7–14B como puerta de anonimización. El modelo local reemplaza PII con marcadores antes de enviar a la API de vanguardia, luego convierte la respuesta de vuelta.

Economía:

• Autoalojar 7–14B para anonimización: $30–50K/año
• API de vanguardia (inferencia principal): ~$57K/año
• TCO total: $90–120K/año vs. $308–495K para autoalojamiento completo

Importante: persiste la sobrecarga de infraestructura (infra de ML, DevOps, cumplimiento), pero la carga principal se desplaza a la API. Este patrón se está volviendo óptimo para bancos, salud y otros sectores regulados.

Matriz de decisión

La elección binaria «construir vs. comprar» está pasada de moda. La decisión depende de cuatro ejes:

Volumen (tokens/mes)

• <10M: siempre API
• 10–500M: depende de otros factores
• 500M+: autoalojamiento gana con ingenieros internos

Requisitos regulatorios

• Localización estricta: autoalojamiento o híbrido con anonimización
• Requisitos moderados: OSS alojado

Calidad vs. Coste

• API de vanguardia para tareas críticas
• Código abierto para nivel «suficientemente bueno»

Disponibilidad de experiencia en ML

• Sin plataforma de ML madura: API
• Con plataforma: autoalojamiento rentabiliza más rápido

Puntos clave

• Calcule el coste de resolver tareas, no de tokens. Mida la sobrecarga de razonamiento e inflación del tokenizador en sus datos.
• El 60% del TCO de autoalojamiento es personal. Sin ingenieros internos, la economía no funciona ni en altos volúmenes.
• El híbrido con anonimización es la vía óptima para industrias reguladas. Reduce el TCO en un 40% frente al autoalojamiento completo.
• La crisis de cómputo requiere cobertura. Incluya «resiliencia» como línea presupuestaria obligatoria.

— Editorial Team