nanocode : pipeline d'agent de codage sur JAX

nanocode : Implémentation ouverte d'un pipeline pour un agent de codage basé sur l'IA constitutionnelle

Le développeur Salman Mohammadi de l'équipe torchtune a publié la bibliothèque nanocode — un framework ouvert en JAX pour le cycle complet d'entraînement d'un agent de codage. Le pipeline couvre le tokenizer, le pré-entraînement, la génération de données synthétiques, le SFT agentique, et l'alignement via DPO avec critique constitutionnelle. Le modèle principal avec 1,3 milliard de paramètres s'entraîne en 9 heures sur TPU pour 200 $. Des variantes plus petites : 477 millions de paramètres — 1,5 heure (34 $), 4 millions — pour débogage CPU.

La bibliothèque est optimisée pour les TPU gratuits via Google TRC et supporte les GPU NVIDIA. Toutes les configurations s'exécutent avec un seul script bash. Le projet prolonge la série nano d'Andrej Karpathy, en se concentrant sur le comportement agentique : lecture de fichiers, écriture de code, et exécution de commandes terminal.

Pipeline complet basé sur les principes de l'IA constitutionnelle

nanocode reproduit l'approche de Claude : cinq étapes d'entraînement à partir de zéro.

• Tokenizer : Entraîné sur un corpus de codage.
• Pré-entraînement : FineWeb-edu + The Stack v2.
• Données synthétiques : 120k exemples courts et 2k longs multi-turns de comportement agentique.
• SFT agentique : Entraînement continu avec outils.
• Alignement DPO : Critique constitutionnelle pour un effet similaire à RLHF.

C'est la première recette ouverte pour un pipeline complet d'IA constitutionnelle pour agents de codage. Le code est minimaliste, reproductible, et sans dépendances externes au-delà de JAX et de l'écosystème TPU.

Les modèles ne rivalisent pas avec les commerciaux (centaines de milliards de paramètres) mais démontrent les mécanismes de bout en bout. Pour les développeurs seniors, c'est une base pour des expériences avec des agents personnalisés.

Configurations et ressources

| Modèle | Paramètres | Temps | Coût | Matériel |

|-----------|------------|--------|------|-------------------|

| Principal | 1.3B | 9 h | 200 $| TPU (Google TRC) |

| Moyen | 477M | 1,5 h | 34 $ | TPU/GPU |

| Débogage | 4M | minutes| 0 $ | CPU |

• Avantages TPU : Accès gratuit, haute efficacité JAX sur configurations multi-puces.
• Support GPU : Cartes uniques ; multi-puces en cours.
• Exécution : bash run.sh --model_size=1.3B — toutes les étapes automatisées.

La bibliothèque permet de disséquer chaque étape : de la tokenisation à la génération de critiques en DPO.

Utilisation pratique pour les développeurs

Pour les spécialistes de niveau intermédiaire et senior, nanocode est un outil pour comprendre les entrailles des agents de codage. Capacités :

• Test d'hypothèses sur données synthétiques (120k+ exemples).
• Personnalisation du tokenizer pour un domaine (p. ex., Rust/Python).
• Expériences avec DPO : Ajustement de la constitution pour un codage éthique.
• Mise à l'échelle sur clusters locaux.

Le code est bien documenté et modulaire. Pas de boîte noire — contrôle total sur le pipeline. Idéal pour la R&D dans les entreprises développant des outils internes.

Points clés

• Pipeline complet ouvert d'IA constitutionnelle pour agents de codage : du tokenizer au DPO.
• Modèle 1,3B pour 200 $/9 h sur TPU gratuits — barrières d'entrée minimales.
• Génération de 122k exemples synthétiques de comportement agentique.
• Optimisation JAX, TPU/GPU, automatisation bash.
• Pas un remplaçant de Claude, mais un outil éducatif pour disséquer les mécanismes.

— Editorial Team