Andrey Karpathy: Cómo los agentes de IA están revolucionando el desarrollo... y por qué es solo el principio
Desde diciembre de 2023, Andrey Karpathy —exdirector de IA de Tesla y cofundador de OpenAI— apenas ha escrito código a mano. En su lugar, delega tareas a agentes autónomos, transformando por completo el desarrollo de software. Este cambio pasa desapercibido para la mayoría, pero ya está definiendo el futuro de la industria TI.
Cambio de paradigma: De líneas de código a funcionalidades completas
El verdadero punto de inflexión no son los agentes en sí: es la nueva unidad de trabajo. Los desarrolladores pensaban en líneas de código y funciones. Ahora, se trata de funcionalidades enteras: «Aquí tienes un bloque de funcionalidad: pásaselo al primer agente; aquí otro independiente: dáselo al segundo». En vez de ajustar líneas sueltas, los desarrolladores delegan tareas a múltiples agentes que trabajan en paralelo.
Karpathy comparte una analogía personal: En la universidad, se ponía nervioso cuando las GPUs estaban ociosas. Ahora, entra en pánico si no agota su límite diario de tokens en consultas de IA.
«Ya no se trata de cuánta potencia de cómputo controlas. Se trata de cuántos prompts de IA puedes lanzar al día».
Garras y el fin de la era de las apps
En el argot de Karpathy, una «Garra» es de otro nivel: no es una sesión de chat interactiva que tienes que supervisar, sino una entidad persistente con su propio entorno aislado y memoria que actúa en tu nombre... incluso cuando no estás frente al ordenador. En enero, sufrió una «psicosis de Garra» y creó Dobby, un agente para su casa inteligente.
«Solo dije: 'Creo que tengo un altavoz Sonos en casa: intenta encontrarlo'. El agente escaneó mi red local, detectó el altavoz, buscó la documentación de la API y preguntó: '¿Quieres poner música en la oficina?'. Dije que sí. La música empezó a sonar a todo volumen. No podía creer que solo hubieran hecho falta tres prompts».
Google AdInline article slot
Ahora Dobby controla luces, aire acondicionado, persianas, piscina y seguridad a través de WhatsApp. ¿Seis apps separadas? Obsoletas. De su experiencia, Karpathy extrae una lección más amplia:
«Todas esas apps de dispositivos inteligentes en la App Store no deberían existir. Cámbialas por APIs y deja que los agentes sean el pegamento que lo une todo. La industria necesita repensarse: El cliente ya no es humano, es un agente actuando en nombre de un humano».
Su predicción:
«Todo lo que he descrito será gratis en uno o dos años. No algún truco avanzado, sino cosas básicas que cualquiera podrá usar. Incluso los modelos de código abierto lo manejarán».
Auto-investigación: Sal del bucle
El principio central de Karpathy:
«No seas el cuello de botella del sistema. No te quedes esperando un resultado para crear el siguiente prompt. El proceso tiene que ser autónomo. De vez en cuando doy directivas rápidas a los agentes, pero ellos hacen el trabajo pesado sin mí».
La auto-investigación lo pone en práctica: Elige una métrica de calidad medible (como la pérdida de validación en datos de prueba), establece límites de cambio aceptables y deja que un agente optimice durante la noche.
Los resultados sorprendieron incluso a Karpathy, con sus 20 años de experiencia:
«Pensaba que había ajustado NanoChat a mano de forma impecable. Pero durante la noche, el agente encontró mejoras que se me habían pasado: decaimiento de pesos en embeddings de valor, parámetros beta de Adam. Todo está interconectado: cambias una cosa y las demás necesitan ajuste. Me quedé atónito de que un repositorio pulido aún tuviera margen de mejora».
La auto-investigación brilla donde los resultados son cuantificables: optimización de código GPU, ajuste de hiperparámetros, comparación de arquitecturas. ¿Sin métrica objetiva? Nada que optimizar.
De esto, Karpathy saca una conclusión audaz para las organizaciones de investigación:
«Los investigadores no deberían ejecutar experimentos sobre sus propias ideas. Todos tenemos 'confianza ganada en nosotros mismos', básicamente sesgo hacia nuestras hipótesis. Debería haber una cola compartida de ideas: Cualquiera puede proponer una hipótesis, pero los agentes la prueban e implementan, no el autor».
Va más allá: Si el flujo de trabajo de un laboratorio de investigación está documentado por completo en archivos de texto (programa.md con objetivos, restricciones, orden de experimentos), diferentes versiones generan distintos avances. Así puedes optimizar no solo modelos, sino organizaciones enteras.
Enjambre de agentes vs. laboratorios de vanguardia
Si los experimentos son caros de ejecutar pero baratos de verificar (como SETI@home o Folding@home en computación distribuida), puedes repartir el trabajo en miles de ordenadores cotidianos... incluso poco fiables:
«Un enjambre global de agentes en dispositivos de consumo podría avanzar colectivamente los modelos de lenguaje y superar potencialmente a los grandes laboratorios. Los labs de vanguardia tienen un cómputo masivo confiable, pero el planeta tiene muchos más recursos: cada uno poco fiable por sí solo».
Perfil de habilidades irregular de la IA
Karpathy llama «dentado» —el perfil de habilidades desigual de los LLM, maestría en un área y torpeza en otra— a una rareza fundamental:
«Es como charlar con un brillante estudiante de doctorado que es programador de sistemas de toda la vida... y un niño de 10 años. Los humanos no tienen esa combinación».
Una señal clara: la prueba del chiste.
«Pídele un chiste a GPT-4. Te dice: '¿Por qué los científicos no confían en los átomos? Porque lo forman todo'. Hace tres o cuatro años, el mismo chiste. Hoy, el mismo. Las tareas de codificación explotaron porque el código es fácil de verificar y dar retroalimentación RL. Pero humor, creatividad, estilo: sin bucle de retroalimentación, estancamiento».
La lección de Karpathy: Una mejor generación de código no significa que el modelo sea más inteligente en general. Las habilidades de la IA no generalizan como quisiéramos.
Esta irregularidad hace que la estrategia de los grandes labs —un modelo universal masivo listo para todo— sea subóptima:
«La naturaleza es salvajemente diversa: Cada especie tiene un cerebro adaptado a su nicho. Podríamos crear modelos especializados más pequeños con núcleos cognitivos potentes y adaptarlos. Pero la ciencia del aprendizaje continuo y el fine-tuning sin olvido aún no está madura».
Lecciones clave
- Cambio de paradigma en desarrollo: Los desarrolladores pasan de escribir líneas de código a orquestar agentes autónomos que entregan funcionalidades completas.
- Fin de la era de las apps: Deshazte de las apps independientes de dispositivos inteligentes por APIs, con agentes como pegamento unificador.
- Auto-investigación: Agentes autónomos optimizan modelos y flujos de trabajo con métricas duras y mínima intervención humana.
- Habilidades irregulares de la IA: Los modelos muestran avances desiguales —excelen en unas áreas, se estancan en otras— lo que exige repensar los modelos universales.
- Enjambres de agentes: Redes distribuidas en dispositivos cotidianos podrían superar a los labs élite en el avance de modelos de lenguaje.
Mercado laboral: Paradoja de Jevons y el futuro de los desarrolladores
Karpathy analizó datos de la Oficina de Estadísticas Laborales y llegó a un optimismo cauto:
«El software siempre ha sido escaso y caro. Baja la barrera de entrada y entra la paradoja de Jevons: la demanda se dispara. Caso clásico: cajeros automáticos y empleados de banco. Todos temían que los cajeros automáticos acabaran con los cajeros. En cambio, bajaron los costes, los bancos abrieron más sucursales y los puestos de cajero crecieron».
Por qué el código seguirá el mismo camino:
«El código ahora es efímero: fácil de reescribir desde cero. No más cadenas de legado. Prepárate para una ola masiva de reescrituras: de herramientas empresariales a apps de consumo».
Es franco sobre el largo plazo:
«Les dije a la gente de OpenAI: Si tenemos éxito, todos perderemos nuestros trabajos. Solo estamos construyendo automatización para la sala de juntas».
Los trabajos digitales se transforman primero. Las IAs de hoy son «espíritus digitales»: Prosperan en mundos de software, texto y código sin cuerpos físicos. Manipular bits es barato e instantáneo; tareas físicas son órdenes de magnitud más difíciles. Programadores, analistas y diseñadores lo notarán pronto; constructores y cirujanos, mucho después.
Código abierto y el futuro de la IA
La brecha entre modelos abiertos y cerrados se redujo de 18 meses a 6-8. Karpathy da la bienvenida al equilibrio:
«El mundo de los SO tiene Windows, macOS, Linux. Linux domina la mayoría de los ordenadores. Las industrias necesitan una plataforma abierta común. Lo mismo con los LLM».
Sobre la centralización —sin rodeos:
«La centralización tiene un historial terrible históricamente».
El anfitrión bromeó: «Suena a alguien de Europa del Este». Karpathy: «Exacto».
«Quiero más laboratorios. En ML, los ensembles superan a los modelos individuales. Lo mismo para los tomadores de decisiones. ¿Dos personas a puerta cerrada? Mal futuro».
Educación: Explica a los agentes, no a las personas
Karpathy lanzó MicroGPT —200 líneas de Python que implementan el pipeline completo de entrenamiento de modelos de lenguaje, desde el dataset hasta el optimizador. Empezó un vídeo explicativo... y lo dejó:
«¿Para qué? 200 líneas: cualquiera puede tener un agente que lo explique a su manera, en su idioma, con paciencia infinita. Yo explico a los agentes; los agentes explican a las personas».
Consejo para autores de librerías:
«Olvídate de docs HTML para humanos. Escribe docs en Markdown para agentes. Si el agente lo entiende, puede explicar el resto».
Sobre su expertise:
«MicroGPT destila años de experiencia en 200 líneas. Un agente no podría inventar esa arquitectura desde cero. Pero entiende completamente el código y puede enseñárselo a cualquiera. Mi valor es comprimir complejidad a esencia. ¿Qué pueden hacer los agentes solos? Pronto me superarán».
— Editorial Team
Aún no hay comentarios.