# nanocode: otwarta implementacja pipeline’u dla agenta kodującego opartego na Constitutional AI
Programista Salman Mohammadi z zespołu torchtune opublikował bibliotekę nanocode — otwarty framework na JAX do pełnego cyklu uczenia agenta kodującego. Pipeline obejmuje tokenizator, pretrening, generowanie syntetycznych danych, agentic SFT i wyrównanie za pomocą DPO z konstytucyjną krytyką. Główny model z 1,3 mld parametrów uczy się w 9 godzin na TPU za 200 USD. Mniejsze warianty: 477 mln parametrów — 1,5 godziny (34 USD), 4 mln — do debugowania na CPU.
Biblioteka jest zoptymalizowana pod darmowe TPU przez Google TRC, obsługuje NVIDIA GPU. Uruchomienie wszystkich konfiguracji — jednym skryptem bash. Projekt kontynuuje serię nano autorstwa Andreja Karpathy’ego, skupiając się na zachowaniach agentowych: czytanie plików, pisanie kodu, wykonywanie poleceń terminala.
Pełny pipeline według zasad Constitutional AI
nanocode odtwarza podejście Claude: pięć etapów uczenia od zera.
- Tokenizator: uczenie na korpusie do kodowania.
- Pretrening: FineWeb-edu + The Stack v2.
- Syntetyczne dane: 120 tys. krótkich i 2 tys. długich przykładów wieloodcinkowych zachowań agentowych.
- Agentic SFT: dalsze uczenie z narzędziami.
- Wyrównanie DPO: konstytucyjna krytyka dla efektu podobnego do RLHF.
To pierwszy otwarty przepis na pełny pipeline Constitutional AI dla agentów kodujących. Kod jest minimalistyczny, powtarzalny, bez zewnętrznych zależności poza JAX i ekosystemem TPU.
Modele nie konkurują z komercyjnymi (setki mld parametrów), ale demonstrują mechanikę end-to-end. Dla doświadczonych programistów — podstawa do eksperymentów z niestandardowymi agentami.
Konfiguracje i zasoby
| Model | Parametry | Czas | Koszt | Sprzęt |
|-------------|-----------|--------|--------|-----------------|
| Główny | 1,3 mld | 9 h | 200 USD| TPU (Google TRC)|
| Średni | 477 mln | 1,5 h | 34 USD | TPU/GPU |
| Debugowy | 4 mln | minuty | 0 USD | CPU |
- Zalety TPU: darmowy dostęp, wysoka efektywność JAX na wieloczipowych konfiguracjach.
- Obsługa GPU: pojedyncze karty, wieloczipowe — w planach.
- Uruchomienie:
bash run.sh --model_size=1.3B— wszystkie etapy zautomatyzowane.
Biblioteka pozwala na szczegółową analizę każdej fazy: od tokenizacji po generowanie krytyki w DPO.
Praktyczne zastosowanie dla programistów
Dla specjalistów średniego i wyższego poziomu nanocode to narzędzie do zrozumienia wnętrzności agentów kodujących. Możliwości:
- Testowanie hipotez na syntetycznych danych (ponad 120 tys. przykładów).
- Dostosowanie tokenizatora do dziedziny (np. Rust/Python).
- Eksperymenty z DPO: strojenie konstytucji dla etycznego kodowania.
- Skalowanie na lokalne klastry.
Kod jest udokumentowany, modułowy. Brak czarnej skrzynki — pełna kontrola nad pipeline’em. Nadaje się do R&D w firmach budujących wewnętrzne narzędzia.
Co ważne
- Pełny otwarty pipeline Constitutional AI dla agentów kodujących: od tokenizatora po DPO.
- Model 1,3B za 200 USD/9 h na darmowych TPU — minimalne bariery wejścia.
- Generowanie 122 tys. syntetycznych przykładów zachowań agentowych.
- Optymalizacja pod JAX, TPU/GPU, automatyzacja bash.
- Nie zastępuje Claude’a, lecz jest narzędziem edukacyjnym do analizy mechanizmów.
— Editorial Team
Brak komentarzy.