nanocode: JAX의 코딩 에이전트 파이프라인

# nanocode: Constitutional AI 기반 코딩 에이전트 파이프라인의 오픈 구현

torchtune 팀의 개발자 Salman Mohammadi가 nanocode 라이브러리를 공개했습니다. 이는 코딩 에이전트의 전체 훈련 주기를 위한 JAX 기반 오픈 프레임워크입니다. 파이프라인은 토크나이저, 사전훈련, 합성 데이터 생성, agentic SFT, 그리고 헌법적 비판을 통한 DPO 정렬을 포괄합니다. 13억 매개변수 규모의 메인 모델은 TPU에서 9시간 만에 $200에 훈련됩니다. 작은 변형 모델: 4억 7,700만 매개변수—1.5시간 ($34), 400만—CPU 디버깅용.

이 라이브러리는 Google TRC를 통한 무료 TPU에 최적화되어 있으며 NVIDIA GPU도 지원합니다. 모든 구성은 단일 bash 스크립트로 실행됩니다. 이 프로젝트는 Andrej Karpathy의 nano 시리즈를 이어가며, 파일 읽기, 코드 작성, 터미널 명령 실행 등 agentic 행동에 초점을 맞춥니다.

Constitutional AI 원칙에 기반한 전체 파이프라인

nanocode는 Claude 접근 방식을 재현합니다: 처음부터 5단계 훈련.

• Tokenizer: 코딩 코퍼스에서 훈련.
• Pretraining: FineWeb-edu + The Stack v2.
• Synthetic data: agentic 행동의 12만 개 짧은 예시와 2천 개 긴 멀티턴 예시.
• Agentic SFT: 도구를 사용한 지속 훈련.
• DPO alignment: RLHF와 유사한 효과를 위한 헌법적 비판.

이는 코딩 에이전트를 위한 최초의 오픈 Constitutional AI 전체 파이프라인 레시피입니다. 코드는 JAX와 TPU 생태계 외 외부 종속성 없이 미니멀하고 재현 가능합니다.

이 모델들은 수백억 매개변수 규모의 상용 모델과 경쟁하지 않지만, 엔드투엔드 메커니즘을 보여줍니다. 시니어 개발자에게는 커스텀 에이전트 실험의 기반이 됩니다.

구성 및 리소스

| Model | Parameters | Time | Cost | Hardware |

|-----------|------------|--------|-------|-------------------|

| Main | 1.3B | 9h | $200 | TPU (Google TRC) |

| Medium | 477M | 1.5h | $34 | TPU/GPU |

| Debug | 4M | minutes| $0 | CPU |

• TPU 장점: 무료 액세스, 멀티칩 설정에서 높은 JAX 효율성.
• GPU 지원: 단일 카드; 멀티칩 지원 예정.
• 실행: bash run.sh --model_size=1.3B—모든 단계 자동화.

이 라이브러리는 토크나이제이션부터 DPO 비판 생성까지 모든 단계를 세밀하게 분석할 수 있게 합니다.

개발자를 위한 실용적 활용

중급 및 시니어 전문가에게 nanocode는 코딩 에이전트 내부를 이해하는 도구입니다. 기능:

• 합성 데이터(12만+ 예시)로 가설 테스트.
• 도메인(예: Rust/Python)에 맞춰 토크나이저 커스터마이징.
• DPO 실험: 윤리적 코딩을 위한 헌법 튜닝.
• 로컬 클러스터로 스케일링.

코드는 잘 문서화되어 있고 모듈화되어 있습니다. 블랙박스 없음—파이프라인에 대한 완전한 제어. 내부 도구를 구축하는 기업의 R&D에 이상적입니다.

주요 요점

• 코딩 에이전트를 위한 전체 오픈 Constitutional AI 파이프라인: 토크나이저부터 DPO까지.
• 무료 TPU에서 $200/9h로 13억 모델—진입 장벽 최소화.
• agentic 행동의 12만 2천 개 합성 예시 생성.
• JAX 최적화, TPU/GPU, bash 자동화.
• Claude 대체는 아니지만, 메커니즘 분석을 위한 교육 도구.

— Editorial Team