Núcleos NVIDIA CUDA acelerados por IA un 38% sin intervención humana

# # El Sistema Multiagente de Cursor Acelera los Kernels CUDA de NVIDIA en un 38 % Sin Intervención Humana

El sistema multiagente de IA de Cursor optimizó de forma autónoma 235 kernels CUDA para la arquitectura NVIDIA Blackwell B200, logrando una aceleración promedio del 38 % sobre la implementación base. El experimento duró tres semanas y no requirió intervención de desarrolladores —una tarea que típicamente toma meses a los ingenieros de kernels— se resolvió completamente de forma automática.

Arquitectura de Optimización Multiagente

El sistema Cursor utilizó dos tipos de agentes: un planificador y ejecutores. El planificador distribuía tareas entre los ejecutores autónomos, monitoreaba métricas de rendimiento y reequilibraba la carga de trabajo en tiempo real. Toda la coordinación se realizaba a través de un único archivo markdown que contenía reglas de ejecución, escenarios de prueba y protocolos de interacción.

Cada ejecutor trabajaba de forma independiente en su subconjunto de kernels, aplicando técnicas de optimización de bajo nivel:

• Pipelining manual de operaciones
• Ajuste fino de la carga de datos a través de niveles de memoria (registros, memoria compartida, memoria global)
• Selección de parámetros óptimos de bloque y grid
• Generación de código PTX (Parallel Thread Execution) —la representación intermedia similar a ensamblador de NVIDIA

Este enfoque evadió las limitaciones de los compiladores tradicionales y aplicó heurísticas disponibles solo para expertos en programación GPU.

Metodología de Pruebas y Validación

Los kernels optimizados se sometieron a validación en un clúster de 27 GPUs NVIDIA B200 utilizando el benchmark SOL-ExecBench. Esta herramienta verifica no solo la corrección computacional, sino también la realizabilidad física de los resultados:

• Comparación con implementaciones de referencia de cuBLAS y otras bibliotecas de NVIDIA
• Evaluación de la proximidad al límite teórico de rendimiento del B200
• Detección de intentos de «trampa» —por ejemplo, uso incorrecto de caché o sustitución de datos de entrada

Si un resultado excedía las capacidades físicas de la arquitectura, la ejecución se rechazaba como inválida. A pesar de los criterios estrictos, el sistema completó exitosamente todas las 235 tareas en un solo ciclo sin reintentos.

Dos Modos de Generación: CUDA C++ y CuTe DSL

El experimento se realizó en dos modos de programación:

• CUDA C++ con PTX en línea: acceso directo a la ISA (Arquitectura de Conjunto de Instrucciones) de la GPU, permitiendo control sobre registros e instrucciones a un nivel casi de ensamblador.
• CuTe DSL: nueva API específica de dominio de NVIDIA enfocada en operaciones tensoriales y optimización para arquitecturas Blackwell. Dado que CuTe apenas está presente en los datos de entrenamiento de modelos de IA, este modo probó la capacidad del agente para aprender de la documentación oficial «desde cero».

Ambos modos demostraron alta efectividad, confirmando la universalidad del enfoque de Cursor para la generación de código de bajo nivel.

Avance en la Optimización de GEMM

El kernel GEMM (Multiplicación General de Matrices) generado completamente de forma autónoma por el sistema atrajo particular atención. Se trata de una operación fundamental de álgebra lineal que subyace a casi todas las etapas de entrenamiento e inferencia de redes neuronales.

Resultados de comparación:

• Alcanzó el 86 % del rendimiento del kernel de referencia cuBLAS
• En algunas matrices pequeñas —9 % de superioridad sobre cuBLAS
• cuBLAS, para referencia, está optimizado manualmente por el equipo de NVIDIA durante años

Dado que GEMM es un «cuello de botella» en la mayoría de las cargas de trabajo de IA, incluso aceleraciones modestas aquí generan ganancias significativas a nivel de sistema.

Estadísticas e Importancia Práctica

La cifra del 38 % representa la aceleración media geométrica en todas las 235 tareas respecto a la base obtenida con un único agente de IA. Sin embargo, detalles clave importan:

• En 149 de 235 casos (63 %), superó esta base
• Las aceleraciones variaron por tipo de kernel: desde 5 % hasta más de 2×
• Las mayores ganancias se vieron en kernels con patrones regulares de acceso a memoria

Este ya es el segundo proyecto exitoso de Cursor en optimización de kernels para Blackwell. En el verano de 2025, el sistema reescribió desde cero su propia capa de entrenamiento MoE (Mezcla de Expertos), logrando una aceleración de extremo a extremo de 1.5×.

Lo que Importa

• Los sistemas multiagente pueden reemplazar meses de trabajo manual de ingenieros de kernels
• La optimización automática alcanza el 86 % de los niveles de cuBLAS —el estándar de oro de NVIDIA
• El enfoque funciona con CUDA C++ tradicional y nuevos DSL como CuTe
• El 63 % de los kernels mostró mejora sobre un único agente de IA
• El experimento valida la viabilidad de sistemas de IA autónomos en computación de alto rendimiento

— Editorial Team