ClawRouter : routage LLM pour réduire les coûts API

Optimiser les coûts d'API LLM avec ClawRouter : Routage intelligent des requêtes par complexité

Les développeurs paient souvent trop cher pour des modèles puissants comme Claude Sonnet lorsqu'ils traitent des tâches simples : renommer des variables, écrire des docstrings ou traduire du texte. ClawRouter résout ce problème en classant les prompts selon leur complexité et en les acheminant vers le modèle approprié. Lors d'une semaine de tests, les coûts d'API sont passés de 47 $ à 1,80 $ tout en maintenant la qualité des réponses.

Le routeur fonctionne localement, sans appels externes pour la classification. Chaque requête est évaluée selon 15 paramètres : longueur du prompt, présence de code, marqueurs de raisonnement (« prouver », « analyser »), utilisation d'outils et commandes d'agent (« exécuter », « modifier »). Sur la base du score, le prompt est attribué à l'un des quatre niveaux : SIMPLE, MOYEN, COMPLEXE, RAISONNEMENT. Un modèle économique est ensuite sélectionné pour ce niveau.

Exemples de routage :

Votre requête : « Qu'est-ce qu'un mutex ? »
  → Scoreur : SIMPLE (confiance 0,92)
  → Modèle : NVIDIA gpt-oss-120b (gratuit)
  → Économies : 100 %

Votre requête : « Réécrivez ce composant React en utilisant les hooks et ajoutez la gestion des erreurs »
  → Scoreur : COMPLEXE (confiance 0,85)
  → Modèle : GPT-4o (2,50 $/10,00 $ par million)
  → Économies : ~60 % vs Opus

Votre requête : « Prouvez que sqrt(2) est irrationnel »
  → Scoreur : RAISONNEMENT (confiance 0,97)
  → Modèle : DeepSeek Reasoner (0,55 $/2,19 $)
  → Économies : ~90 % vs Opus

Installation et paiement

Installez via script ou npm :

curl -fsSL https://blockrun.ai/ClawRouter-update | bash

# Ou
npm install -g @blockrun/clawrouter

Le paiement s'effectue en USDC sur le réseau Base (Ethereum L2). Un portefeuille local est créé automatiquement ; un rechargement de 5 $ couvre des milliers de requêtes. Un avantage clé pour les agents IA : pas besoin de comptes ou de cartes. Pour les développeurs, la barrière est une configuration de 15 à 20 minutes pour un portefeuille crypto.

Quatre profils de routage :

• auto : équilibre entre prix et qualité.
• eco : économies jusqu'à 95 %.
• premium : priorité à la qualité.
• free : uniquement des modèles gratuits comme NVIDIA gpt-oss-120b.

Fonctionnalités clés

• Secours : basculement automatique vers le modèle suivant en cas d'erreurs (limite de débit, 500).
• Épinglage de session : fixation du modèle pour une session de dialogue.
• Secours vers le niveau gratuit : basculement transparent vers un modèle gratuit si le portefeuille est vide.

Le classifieur est basé sur des règles : rapide (<1 ms), prévisible, mais peut sous-performer sur les cas limites par rapport aux routeurs ML (par exemple, un prompt court avec un tri O(n log n) classé comme SIMPLE).

Comparaisons avec les alternatives

| Solution | Type de routage | Disponibilité | Fonctionnalités |

|-------------|-----------------|----------------------|--------------------------------------|

| OpenRouter | Agrégateur | Cloud, paiement par carte | Sélection manuelle du modèle, faible barrière |

| RouteLLM | Classifieur ML| Open source | Nécessite déploiement et formation |

| Martian | ML avec prédiction de qualité | Entreprise | Source fermée, pour les entreprises |

| ClawRouter | Basé sur des règles | Open source, local| Paiement crypto, prêt à l'emploi |

Selon les données de l'ICLR 2025, RouteLLM maintient 95 % de la qualité de GPT-4 tout en acheminant seulement 14 % des requêtes vers celui-ci (économisant 75 à 85 %).

Limites

• Scoreur basé sur des règles : erreurs sur les cas limites.
• Paiement uniquement en crypto : pas de support par carte.
• Pas de vérification de qualité a posteriori : un modèle bon marché peut fournir une réponse faible sans nouvelle tentative.
• Projet jeune : documentation éparse, support via Telegram.

Points clés à retenir

• Économies jusqu'à 95 % en acheminant les tâches simples vers des modèles économiques.
• Classification locale sans délais ni appels d'API externes.
• Secours automatiques et épinglage de modèle par session.
• Adapté aux projets personnels et aux agents IA avec portefeuilles crypto.
• Approche basée sur des règles : rapide mais nécessite des ajustements pour les cas limites.

— Editorial Team