Benchmarks STT LLM TTS pour la traduction en temps réel

30+ tests de IA vocale pour traduction en temps réel : latence, tarifs, meilleur stack

Le Speech-to-Text lance le pipeline. Pour une utilisation en temps réel, un streaming stable avec un taux d'erreur de parole (WER) inférieur à 10 % et une latence sous les 300 ms est indispensable.

| Fournisseur | Latence | WER | Prix/min | Streaming |

|----------|---------|-----|--------------|-----------|

| Deepgram Nova-3 | <300ms | ~10% | $0.0059 | Oui |

| AssemblyAI Universal-2 | ~300ms | 8.4% | ~$0.006 | Oui |

| ElevenLabs Scribe v2 | 150ms | ~9% | ~$0.01 | Oui |

| Groq Whisper Large v3 | batch | 10.3% | $0.0028 | Non |

Deepgram Nova-3 se distingue par son équilibre parfait : streaming fiable et bonus d'inscription de 200 $ couvre 560 heures d'utilisation. Groq Whisper reste instable (erreurs 503, moyenne à 2812 ms).

LLM pour la traduction : TTFT prime sur les tokens/s

Traduire des phrases courtes (5 à 15 mots) dépend fortement du Time to First Token (TTFT). La qualité entre Llama 3.3 70B et Gemini Flash est similaire, mais la vitesse varie considérablement.

| Fournisseur | Modèle | Tokens/s | TTFT |

|----------|-------|----------|------|

| Groq | Llama 3.3 70B | ~750 | ~200ms |

| Cerebras | Llama 8B | 1800 | ~350ms |

| Gemini | 2.5 Flash | 217–245 | 330–450ms |

| Fireworks AI | Llama 3.3 70B | ~800 | ~200ms |

Groq est optimal : 200 ms de TTFT. Le modèle local Llama 3.2 3B (~100 t/s sur MLX) peine en matière de latence.

TTS : Le goulot d'étranglement que vous ne pouvez ignorer

Le TTS casse le pipeline si le TTFB dépasse 500 ms. Les APIs cloud via WebSocket offrent un avantage x5 par rapport aux appels synchrones HTTP. Le prix/hour est basé sur 33 750 caractères (deux sens, 45 min de TTS).

| Fournisseur | Modèle | TTFB | ELO | Prix/1M chars | Prix/hour | Russe |

|----------|-------|------|-----|----------------|------------|---------|

| Cartesia | Sonic Turbo | ~40ms | 1054 | $37–47 | $1.26 | Oui |

| Hume | Octave 2 | <200ms | 1562 | $7.60 | $0.26 | Oui |

| ElevenLabs | Flash v2.5 | ~75ms | 1544 | ~$206 | $5.57 | Oui |

| OpenAI | TTS-1 | ~500ms | 1106 | $15 | $0.51 | Oui |

Classement ELO (TTS Arena v2, mars 2026) :

• Vocu V3.0 (1600)
• Inworld TTS-1.5-Max (1576)
• Hume Octave 2 (1562)
• ElevenLabs Flash v2.5 (1544)

Modèles locaux sur M4 (MacBook Air 24 Go, chaud) :

| Modèle | Taille | 2–3 mots | 10 mots | Qualité | Russe |

|-------|------|-----------|----------|---------|---------|

| Piper ryan-medium | 63MB | 30–50ms | 137ms | B | Oui |

| Kokoro 82M fp16 | 156MB | 370ms | 730ms | A+ | Non |

| ZipVoice 123M | 123MB | ~500ms | 1240ms | B+ | Non |

Tendance : les modèles de 0,5 à 2 milliards de paramètres (Chatterbox, Qwen3-TTS) génèrent des phrases en 6 à 19 secondes sans GPU.

Benchmarks end-to-end réels

5 phrases, chaude, TTFB moyen (M4) :

| Fournisseur | Modèle | Protocole | TTFB moyen | Min | Max | Prix/1M |

|----------|-------|----------|----------|-----|-----|----------|

| Cartesia | Sonic-2 | WebSocket | 245ms | 208ms | 281ms | $37–47 |

| Kokoro | 82M | local MLX | 313ms | 259ms | 340ms | gratuit |

| ElevenLabs | Flash v2.5 | WebSocket | 395ms | 309ms | 551ms | ~$206 |

| Cartesia | Sonic-2 | SDK synchrone | 1361ms | 1173ms | 1567ms | $37–47 |

WebSocket vs synchrone : 245 ms contre 1361 ms (différence x5,5).

Pièges clés et découvertes

• Le protocole fait toute la différence : utilisez toujours WebSocket pour le temps réel. Les APIs synchrones faussent la réalité.
• La quantification sur Apple Silicon ralentit : Kokoro fp16 (373 ms) vs INT8 (687 ms) — surcharge de conversion.
• Le russe reste un défi pour les open-source : Piper est obsolète ; les grands modèles sont lents. Cloud = coût élevé.
• Économie unitaire d'ElevenLabs : 5,57 $/heure contre 1,26 $/heure pour Cartesia, avec un ELO similaire.

Kokoro 82M (fp16, 4 threads) : 373 ms pour 2 mots, qualité A+, 28 voix anglaises. Pas de streaming — temps total.

Stack final et latence

Deepgram Nova-3 (~300 ms) → Groq Llama 3.3 70B (~200 ms) → StreamChunker (2–3 mots, ~100 ms) → Kokoro 82M (~370 ms). Total : ~870 ms pour la première sortie audio.

Ce qui compte vraiment :

• WebSocket obligatoire pour un TTS sous 300 ms.
• Groq domine en TTFT pour les LLM.
• Kokoro 82M est le meilleur open-source pour l’anglais, mais pas de support russe.
• ElevenLabs est cher : calculez le coût par heure dès le départ.
• Deepgram offre un bonus de 200 $ pour 560 heures de STT.

— Editorial Team