Agenci AI w programowaniu: jak Andrzej Karpathy przestał pisać kod

Andrzej Karpathy: jak agenty AI zrewolucjonizowali rozwój oprogramowania i dlaczego to dopiero początek

Od grudnia 2023 roku Andrzej Karpathy, były dyrektor AI w Tesla i współzałożyciel OpenAI, praktycznie przestał pisać kod ręcznie. Zamiast tego deleguje zadania autonomicznym agentom, co radykalnie zmienia podejście do rozwoju oprogramowania. To przesunięcie, jego zdaniem, pozostaje niezauważone przez większość, ale już teraz określa przyszłość branży IT.

Zmiana paradygmatu: od linii kodu do funkcjonalności

Główna zmiana — to nie pojawienie się agentów jako takich, ale nowa jednostka pracy. Wcześniej programista myślał liniami kodu i funkcjami. Teraz — całymi funkcjonalnościami: „oto funkcjonalność — przekazuję pierwszemu agentowi; oto inna, niezależna — przekazuję drugiemu”. Zamiast edytować pojedyncze linie, programista rozdaje zadania kilku agentom równolegle.

Karpathy przytacza metaforę z własnego życia: w studiach doktoranckich denerwował się, gdy bezczynnie stały GPU. Teraz denerwuje się, gdy nie zdąży wydać dziennego limitu tokenów na zapytania do AI.

„Chodzi już nie o to, ile mocy obliczeniowych kontrolujesz. Chodzi o to, ile zapytań do AI zdążysz przetworzyć w ciągu dnia.”

Claws i koniec ery aplikacji

„Claw” w terminologii Karpathy’ego — agent nowego poziomu. Nie interaktywna sesja pod twoją kontrolą, ale stale żyjąca istota z własną piaskownicą i pamięcią, która działa w twoim imieniu, nawet gdy nie jesteś przy ekranie. W styczniu Karpathy doświadczył „claw psychosis” i zbudował Dobby’ego — agenta do zarządzania inteligentnym domem.

„Po prostu napisałem: 'wydaje mi się, że mam w domu Sonosa, spróbuj znaleźć'. Agent przeskanował lokalną sieć, odkrył głośnik, znalazł dokumentację API i zapytał: chcesz, spróbujemy coś włączyć w gabinecie? Mówię — dawaj. I z głośnika popłynęła muzyka. Nie mogłem uwierzyć, że do tego potrzeba było trzech promptów.”

Google AdInline article slot

Teraz Dobby przez WhatsApp zarządza światłem, klimatyzacją, zasłonami, basenem i systemem bezpieczeństwa. Sześć oddzielnych aplikacji stało się niepotrzebne. Z osobistego doświadczenia Karpathy wyciąga systemowy wniosek:

„Wszystkie te aplikacje dla inteligentnych urządzeń z App Store w ogóle nie powinny istnieć. Zamiast aplikacji powinny być API, a agenty — klejem, który wszystko łączy. Branża czas przemyśleć siebie: klient — to już nie człowiek. Klient — agent, działający w imieniu człowieka.”

I prognoza:

„Wszystko, co opisałem, za rok-dwa stanie się darmowe. Nie zaawansowana technika — po prostu podstawowy poziom, dostępny każdemu. Nawet open-source modele będą sobie z tym radzić.”

Auto-research: usuń siebie z cyklu

Główna zasada, do której dąży Karpathy:

„Nie można być wąskim gardłem systemu. Nie można siedzieć i czekać na kolejny wynik, aby napisać kolejne zapytanie. Proces musi działać autonomicznie. Od czasu do czasu podaję agentom krótkie instrukcje, a główna część pracy wykonuje się bez mojego udziału.”

Auto-research — konkretne wcielenie zasady „usuń siebie z cyklu”. Bierzesz mierzalny wskaźnik jakości (powiedzmy, validation loss — błąd modelu na danych walidacyjnych), ustalasz ramy dopuszczalnych zmian i uruchamiasz agenta optymalizującego na noc.

Rezultat zaskoczył nawet Karpathy’ego z jego dwudziestoletnim doświadczeniem:

„Myślałem, że dość dobrze skonfigurowałem NanoChat ręcznie. Ale agent w ciągu nocy znalazł to, co przeoczyłem: weight decay na value embeddings, beta-parametry Adam. Wszystko jest powiązane — zmieniasz jedno, a drugie trzeba przemyśleć. Zaskoczyło mnie, że w już dobrze dopracowanym repozytorium w ogóle znalazło się coś do poprawy.”

Auto-research działa tylko tam, gdzie wynik można zmierzyć liczbą: optymalizacja kodu GPU, dobór hiperparametrów, porównanie architektur. Jeśli nie ma obiektywnej metryki — nie ma co optymalizować.

Z tej samej logiki Karpathy wyciąga radykalny wniosek o organizacjach badawczych:

„Badacze nie powinni sami uruchamiać eksperymentów według swoich pomysłów. Każdy badacz ma zbyt dużo 'zasłużonego zaufania do siebie' — w istocie, uprzedzenia na korzyść własnych hipotez. Powinna być wspólna kolejka pomysłów: każdy może dodać hipotezę, ale sprawdzają i realizują hipotezy agenci, a nie autor.”

Karpathy idzie jeszcze dalej: jeśli proces pracy laboratorium badawczego jest całkowicie opisany w plikach tekstowych (program.md — cele, ograniczenia, kolejność eksperymentów), to różne wersje pliku dadzą różny postęp. A więc optymalizować można nie tylko modele, ale i same organizacje.

Rój agentów przeciwko frontier labs

Jeśli przeprowadzenie eksperymentu jest drogie, a sprawdzenie wyniku tanie (jak w projektach obliczeń rozproszonych SETI@home lub Folding@home), pracę można rozłożyć na tysiące zwykłych komputerów, nawet jeśli każdy z węzłów jest zawodny:

„Rój agentów na zwykłych urządzeniach na całym świecie mógłby kolektywnie ulepszać modele językowe — i potencjalnie wyprzedzić duże laboratoria. Duże laboratoria mają ogromne zaufane moce obliczeniowe, ale zasobów na planecie jest znacznie więcej — po prostu każdy z zasobów z osobna jest zawodny.”

Postrzępiony profil zdolności AI

Karpathy opisuje „jaggedness” — postrzępiony profil zdolności LLM, kiedy model jest błyskotliwy w jednym i bezradny w innym — jako fundamentalną osobliwość:

„Mam jednocześnie wrażenie, że rozmawiam z błyskotliwym studentem PhD, który całe życie był programistą systemowym, i z dziesięcioletnim dzieckiem. U ludzi takie połączenie nie występuje.”

Konkretny symptom — test z dowcipem:

„Poproś GPT-4, aby opowiedział dowcip. Wiesz, jaki otrzymasz? 'Dlaczego naukowcy nie ufają atomom? Bo one wszystko wymyślają.' Trzy-cztery lata temu otrzymywałeś ten sam dowcip — i dziś otrzymasz. W zadaniach z kodem modele urosły kolosalnie, bo kod łatwo sprawdzić i dać modelowi informację zwrotną (sygnał RL). Ale tam, gdzie takiej informacji zwrotnej nie ma — w humorze, kreatywności, stylu — wszystko zastygło.”

Wniosek Karpathy’ego: to, że model stał się lepszy w pisaniu kodu, nie oznacza, że model stał się mądrzejszy we wszystkim. Zdolności AI nie uogólniają się tak, jak chciałoby się wierzyć.

Z postrzępionego profilu zdolności wynika, że obecne podejście dużych laboratoriów — budowanie jednego ogromnego uniwersalnego modelu, który ma być mądry „we wszystkim” — jest nieoptymalne:

„Świat zwierząt jest niezwykle zróżnicowany: każdy gatunek ma swój mózg, dostosowany do swojej niszy. Można budować znacznie mniejsze wyspecjalizowane modele z silnym rdzeniem kognitywnym, które następnie adaptują się do konkretnych zadań. Ale nauka o głębokim dostrajaniu wag bez utraty zdolności — continual learning, fine-tuning — jeszcze nie dojrzała.”

Co jest ważne

• Zmiana paradygmatu rozwoju: programiści przechodzą od pisania linii kodu do zarządzania autonomicznymi agentami, którzy implementują całe funkcjonalności.
• Koniec ery aplikacji: zamiast oddzielnych aplikacji dla inteligentnych urządzeń będą używane API, a agenty staną się „klejem”, łączącym wszystko w jednolity system.
• Auto-research: autonomiczne agenty mogą optymalizować modele i procesy bez stałej ingerencji człowieka, wykorzystując mierzalne metryki jakości.
• Postrzępiony profil zdolności AI: modele demonstrują nierównomierny rozwój — błyskotliwe wyniki w jednych dziedzinach i zastój w innych, co wymaga przemyślenia podejścia do tworzenia uniwersalnych modeli.
• Rój agentów: rozproszone sieci zwykłych urządzeń z agentami mogą potencjalnie wyprzedzić duże laboratoria w ulepszaniu modeli językowych.

Rynek pracy: paradoks Jevonsa i przyszłość programistów

Karpathy przeanalizował dane Bureau of Labor Statistics i doszedł do ostrożnie optymistycznego wniosku:

„Oprogramowanie zawsze było deficytowe i drogie. Jeśli bariera wejścia spada, wchodzi w grę paradoks Jevonsa — popyt rośnie. Klasyczny przykład: bankomaty i kasjerzy. Wszyscy bali się, że bankomaty wyprą kasjerów. Ale koszt operacji spadł, banki zaczęły otwierać więcej oddziałów, i ostatecznie kasjerów przybyło.”

Dlaczego z kodem będzie podobnie:

„Kod teraz jest efemeryczny — można go szybko zmieniać i przepisywać od zera. Nikt już nie jest przywiązany do odziedziczonego oprogramowania. Przed nami — fala masowego przepisywania wszystkiego: od wewnętrznych narzędzi firm po aplikacje konsumenckie.”

Przy tym Karpathy jest szczery co do długoterminowej perspektywy:

„Mówiłem ludziom w OpenAI: rozumiecie, że w przypadku naszego sukcesu wszyscy stracimy pracę? Po prostu budujemy automatyzację dla rady dyrektorów.”

Pierwszymi transformacja dotknie cyfrowe zawody. Obecne AI — to „cyfrowe duchy”: żyją w świecie oprogramowania, tekstu i kodu i nie mają fizycznego ciała. Manipulować bitami jest tanio i natychmiastowo; manipulować fizycznymi obiektami — o rzędy wielkości trudniej i drożej. Dlatego programiści, analitycy i projektanci odczują zmiany pierwszymi, a budowlańcy i chirurdzy — znacznie później.

Open source i przyszłość AI

Różnica między otwartymi i zamkniętymi modelami skróciła się z 18 miesięcy do około 6–8. Karpathy cieszy się z takiej równowagi:

„W świecie OS są Windows, macOS i Linux. Linux jest niewiarygodnie udany — działa na większości komputerów. Branży zawsze potrzebna jest wspólna otwarta platforma. Z LLM dzieje się to samo.”

O centralizacji — twardo:

„Centralizacja ma bardzo złą historyczną kartę.”

Prowadzący zauważył: „Brzmi jak człowiek z Europy Wschodniej”. Karpathy: „Właśnie”.

„Chcę, żeby labs było więcej. W uczeniu maszynowym zespoły zawsze są silniejsze niż pojedyncze modele. Z ludźmi, podejmującymi ważne decyzje, powinno być tak samo. Dwóch za zamkniętymi drzwiami — to zła przyszłość.”

Edukacja: tłumacz agentom, a nie ludziom

Karpathy wydał MicroGPT — 200 linii Pythona, w których zaimplementowany jest cały cykl uczenia modelu językowego od datasetu do optymalizatora. Zaczął nagrywać wideo z wyjaśnieniem — i przestał:

„Po co? 200 linii — każdy może poprosić agenta, aby wyjaśnił je po swojemu, na swoim języku, z nieskończoną cierpliwością. Ja tłumaczę agentom — agenci tłumaczą ludziom.”

Praktyczna rada dla autorów bibliotek:

„Nie potrzeba dokumentacji HTML dla ludzi. Potrzebna jest dokumentacja Markdown dla agentów. Jeśli agent zrozumie — resztę wyjaśni sam.”

O własnej wartości jako eksperta:

„MicroGPT — kwintesencja mojego wieloletniego doświadczenia, ściśnięta do 200 linii. Agent nie mógłby wymyślić takiej architektury od zera. Ale agent całkowicie rozumie gotowy kod i może go wytłumaczyć komukolwiek. W umiejętności ściśnięcia złożonego do sedna — moja wartość. A wszystko, co agent potrafi zrobić sam — prawdopodobnie, wkrótce będzie robił lepiej ode mnie.”

— Editorial Team