nanocode: pipeline de agente de codificación en JAX

# nanocode: Implementación abierta de un pipeline para un agente de codificación basado en IA Constitucional

El desarrollador Salman Mohammadi del equipo torchtune ha lanzado la biblioteca nanocode: un marco abierto en JAX para el ciclo completo de entrenamiento de un agente de codificación. El pipeline cubre el tokenizador, preentrenamiento, generación de datos sintéticos, SFT agentivo y alineación mediante DPO con crítica constitucional. El modelo principal con 1.3 mil millones de parámetros se entrena en 9 horas en TPU por $200. Variantes más pequeñas: 477 millones de parámetros—1.5 horas ($34), 4 millones—para depuración en CPU.

La biblioteca está optimizada para TPUs gratuitas a través de Google TRC y soporta GPUs NVIDIA. Todas las configuraciones se ejecutan con un solo script bash. El proyecto continúa la serie nano de Andrej Karpathy, centrándose en el comportamiento agentivo: lectura de archivos, escritura de código y ejecución de comandos de terminal.

Pipeline completo basado en principios de IA Constitucional

nanocode replica el enfoque de Claude: cinco etapas de entrenamiento desde cero.

• Tokenizador: Entrenado en un corpus de codificación.
• Preentrenamiento: FineWeb-edu + The Stack v2.
• Datos sintéticos: 120k ejemplos cortos y 2k largos de varios turnos de comportamiento agentivo.
• SFT agentivo: Entrenamiento continuado con herramientas.
• Alineación DPO: Crítica constitucional para un efecto similar a RLHF.

Esta es la primera receta abierta para un pipeline completo de IA Constitucional para agentes de codificación. El código es minimalista, reproducible y libre de dependencias externas más allá de JAX y el ecosistema TPU.

Los modelos no compiten con los comerciales (cientos de miles de millones de parámetros), pero demuestran la mecánica de extremo a extremo. Para desarrolladores senior, es una base para experimentos con agentes personalizados.

Configuraciones y recursos

| Modelo | Parámetros | Tiempo | Costo | Hardware |

|-----------|------------|--------|-------|-------------------|

| Principal | 1.3B | 9h | $200 | TPU (Google TRC) |

| Mediano | 477M | 1.5h | $34 | TPU/GPU |

| Depuración| 4M | minutos| $0 | CPU |

• Ventajas de TPU: Acceso gratuito, alta eficiencia de JAX en configuraciones multi-chip.
• Soporte GPU: Tarjetas individuales; multi-chip en desarrollo.
• Ejecución: bash run.sh --model_size=1.3B—todas las etapas automatizadas.

La biblioteca permite desglosar cada etapa: desde tokenización hasta generación de críticas en DPO.

Uso práctico para desarrolladores

Para especialistas de nivel medio y senior, nanocode es una herramienta para entender los entresijos de los agentes de codificación. Capacidades:

• Pruebas de hipótesis en datos sintéticos (120k+ ejemplos).
• Personalización del tokenizador para un dominio (p. ej., Rust/Python).
• Experimentos con DPO: Ajuste de la constitución para codificación ética.
• Escalado a clústeres locales.

El código está bien documentado y modular. Nada de caja negra: control total sobre el pipeline. Ideal para I+D en empresas que construyen herramientas internas.

Puntos clave

• Pipeline completo abierto de IA Constitucional para agentes de codificación: desde tokenizador hasta DPO.
• Modelo de 1.3 mil millones por $200/9h en TPUs gratuitas—barreras mínimas de entrada.
• Generación de 122k ejemplos sintéticos de comportamiento agentivo.
• Optimización en JAX, TPU/GPU, automatización bash.
• No es un reemplazo de Claude, sino una herramienta educativa para desglosar la mecánica.

— Editorial Team