NVIDIA CUDA 核心由 AI 加速 38%，无需人工干预

Cursor 的多代理系统无需人工干预，将 NVIDIA CUDA 内核加速 38%

Cursor 的多代理人工智能系统自主优化了针对 NVIDIA Blackwell B200 架构的 235 个 CUDA 内核，相对于基线实现平均加速 38%。该实验运行了三周，无需开发者干预——这项通常需要内核工程师数月完成的任务，完全实现了自动化解决。

多代理优化架构

Cursor 系统使用了两种类型的代理：规划器和执行器。规划器在自主执行器之间分配任务，监控性能指标，并实时重新平衡工作负载。所有协调都通过单个 markdown 文件完成，其中包含执行规则、测试场景和交互协议。

每个执行器独立处理其内核子集，应用低级优化技术：

• 手动操作流水线化
• 微调跨内存层次（寄存器、共享内存、全局内存）的数据加载
• 选择最优的块和网格参数
• 生成 PTX（并行线程执行）代码——NVIDIA 类汇编的中间表示

这种方法绕过了传统编译器的局限性，并应用了仅供 GPU 编程专家使用的启发式规则。

测试和验证方法

优化后的内核在配备 27 张 NVIDIA B200 GPU 的集群上使用 SOL-ExecBench 基准进行了验证。该工具不仅检查计算正确性，还验证结果的物理可实现性：

• 与 cuBLAS 和其他 NVIDIA 库的参考实现比较
• 评估接近 B200 理论吞吐量极限的程度
• 检测“作弊”尝试——例如，不正确的缓存使用或输入数据替换

如果结果超过架构的物理能力，则运行被判定为无效。尽管标准严格，系统在一轮内成功完成了所有 235 个任务，无需重试。

两种生成模式：CUDA C++ 和 CuTe DSL

实验在两种编程模式下进行：

• 带内联 PTX 的 CUDA C++：直接访问 GPU 的 ISA（指令集架构），允许近汇编级别的寄存器和指令控制。
• CuTe DSL：NVIDIA 的新型领域特定 API，专注于张量操作并针对 Blackwell 架构优化。由于 CuTe 在人工智能模型训练数据中几乎不存在，此模式测试了代理从官方文档“从零”学习的能力。

两种模式均表现出高有效性，证实了 Cursor 在低级代码生成方面方法的通用性。

GEMM 优化的突破

系统完全自主生成的 GEMM 内核（通用矩阵乘法）备受关注。这是神经网络训练和推理几乎所有阶段的基础线性代数操作。

比较结果：

• 达到了参考 cuBLAS 内核性能的 86%
• 在某些小矩阵上——超过 cuBLAS 9%
• 作为参考，cuBLAS 由 NVIDIA 团队历经多年手工优化

鉴于 GEMM 是大多数人工智能工作负载中的“瓶颈”，即使适度加速也能在系统层面带来显著收益。

统计数据与实际意义

38% 的数字代表相对于单一人工智能代理基线的 235 个任务的几何平均加速。不过，关键细节很重要：

• 在 235 个案例中的 149 个（63%）中，超过了该基线
• 加速幅度因内核类型而异：从 5% 到超过 2×
• 最大的收益出现在具有规律内存访问模式的内核中

这已经是 Cursor 在 Blackwell 内核优化方面的第二个成功项目。2025 年夏季，该系统从零重写了其自身的训练 MoE 层（专家混合），实现了 1.5× 端到端加速。

关键要点

• 多代理系统可以取代内核工程师数月的 manual 工作
• 自动优化达到了 cuBLAS 水平的 86%——NVIDIA 的黄金标准
• 该方法适用于传统 CUDA C++ 和像 CuTe 这样的新型 DSL
• 63% 的内核优于单一人工智能代理
• 该实验验证了自主人工智能系统在高性能计算中的可行性

— Editorial Team