Benchmarks de STT LLM TTS para traducción en tiempo real

Más de 30 pruebas de IA de voz para traducción en tiempo real: latencia, precios y pila óptima

El reconocimiento de voz inicia el proceso. Para uso en tiempo real, la transmisión con TAE <10% y latencia <300ms es fundamental.

| Proveedor | Latencia | TAE | Precio/minuto | Transmisión |

|----------|---------|-----|--------------|-----------|

| Deepgram Nova-3 | <300ms | ~10% | $0.0059 | Sí |

| AssemblyAI Universal-2 | ~300ms | 8.4% | ~$0.006 | Sí |

| ElevenLabs Scribe v2 | 150ms | ~9% | ~$0.01 | Sí |

| Groq Whisper Large v3 | por lotes | 10.3% | $0.0028 | No |

Deepgram Nova-3 destaca por su equilibrio: transmisión estable y bono de registro de $200 cubre 560 horas de uso. Groq Whisper es inestable (errores 503, promedio de 2812ms).

LLM para traducción: TTFT importa más que tokens/s

Traducir frases cortas (5–15 palabras) depende del Tiempo al Primer Token. La calidad entre Llama 3.3 70B y Gemini Flash es similar, pero la velocidad varía ampliamente.

| Proveedor | Modelo | Tokens/s | TTFT |

|----------|-------|----------|------|

| Groq | Llama 3.3 70B | ~750 | ~200ms |

| Cerebras | Llama 8B | 1800 | ~350ms |

| Gemini | 2.5 Flash | 217–245 | 330–450ms |

| Fireworks AI | Llama 3.3 70B | ~800 | ~200ms |

Groq es ideal: 200ms TTFT. Llama 3.2 3B local (~100 t/s en MLX) tiene mayor latencia.

TTS: El cuello de botella que no puedes ignorar

El sintetizador de voz rompe el flujo si el TTFB supera los 500ms. Las APIs en la nube mediante WebSocket ofrecen una ventaja x5 frente a HTTP sincrónicos. El precio/hora se basa en 33.750 caracteres (dos direcciones, 45 min de TTS).

| Proveedor | Modelo | TTFB | ELO | Precio/1M chars | Precio/hora | Ruso |

|----------|-------|------|-----|----------------|------------|---------|

| Cartesia | Sonic Turbo | ~40ms | 1054 | $37–47 | $1.26 | Sí |

| Hume | Octave 2 | <200ms | 1562 | $7.60 | $0.26 | Sí |

| ElevenLabs | Flash v2.5 | ~75ms | 1544 | ~$206 | $5.57 | Sí |

| OpenAI | TTS-1 | ~500ms | 1106 | $15 | $0.51 | Sí |

Clasificación ELO (TTS Arena v2, marzo 2026):

• Vocu V3.0 (1600)
• Inworld TTS-1.5-Max (1576)
• Hume Octave 2 (1562)
• ElevenLabs Flash v2.5 (1544)

Modelos locales en M4 (MacBook Air 24GB, caliente):

| Modelo | Tamaño | 2–3 palabras | 10 palabras | Calidad | Ruso |

|-------|------|-----------|----------|---------|---------|

| Piper ryan-medium | 63MB | 30–50ms | 137ms | B | Sí |

| Kokoro 82M fp16 | 156MB | 370ms | 730ms | A+ | No |

| ZipVoice 123M | 123MB | ~500ms | 1240ms | B+ | No |

Tendencia: modelos de 0.5–2B parámetros (Chatterbox, Qwen3-TTS) generan frases en 6–19 segundos sin GPU.

Pruebas reales end-to-end

5 frases, estado caliente, TTFB promedio (M4):

| Proveedor | Modelo | Protocolo | TTFB promedio | Mín | Máx | Precio/1M |

|----------|-------|----------|----------|-----|-----|----------|

| Cartesia | Sonic-2 | WebSocket | 245ms | 208ms | 281ms | $37–47 |

| Kokoro | 82M | local MLX | 313ms | 259ms | 340ms | gratis |

| ElevenLabs | Flash v2.5 | WebSocket | 395ms | 309ms | 551ms | ~$206 |

| Cartesia | Sonic-2 | SDK sincrónico | 1361ms | 1173ms | 1567ms | $37–47 |

WebSocket vs sincrónico: 245ms vs 1361ms (diferencia x5.5).

Peligros clave y descubrimientos

• El protocolo marca la diferencia: Usa siempre WebSocket para tiempo real. Las APIs sincrónicas distorsionan la realidad.
• La cuantización en Apple Silicon ralentiza: Kokoro fp16 (373ms) vs INT8 (687ms) — sobrecarga de conversión.
• El ruso sigue siendo un desafío para código abierto: Piper está desactualizado; los grandes modelos son lentos. Nube = alto costo.
• Economía unitaria de ElevenLabs: $5.57/hora vs Cartesia $1.26/hora con ELO similar.

Kokoro 82M (fp16, 4 hilos): 373ms para 2 palabras, calidad A+, 28 voces en inglés. Sin transmisión — tiempo total.

Pila final y latencia

Deepgram Nova-3 (~300ms) → Groq Llama 3.3 70B (~200ms) → StreamChunker (2–3 palabras, ~100ms) → Kokoro 82M (~370ms). Total: ~870ms hasta la primera salida de audio.

Lo que realmente importa:

• WebSocket es obligatorio para TTS bajo 300ms.
• Groq lidera en TTFT para LLMs.
• Kokoro 82M es el mejor código abierto para inglés, pero no soporta ruso.
• ElevenLabs es caro: calcula $/hora desde el inicio.
• Deepgram ofrece bono de $200 por 560 horas de STT.

— Editorial Team