Powrót do strony głównej

Jądra CUDA NVIDIA przyspieszono AI o 38% bez udziału człowieka

System wieloagentowy AI Cursor autonomicznie zoptymalizował 235 jąder CUDA pod architekturę NVIDIA Blackwell B200, osiągając średnie przyspieszenie o 38%. Eksperyment demonstruje potencjał autonomicznych agentów w zastępowaniu ręcznej pracy inżynierów kernel.

Agenci AI przyspieszyli jądra CUDA NVIDIA o 38% — bez ludzi
Advertisement 728x90

# Wielooagentowa systema Cursor przyspieszyła jądra CUDA NVIDIA o 38% bez udziału człowieka

Wielooagentowa systema AI Cursor autonomicznie zoptymalizowała 235 jąder CUDA pod architekturę NVIDIA Blackwell B200, osiągając średnie przyspieszenie o 38% względem implementacji bazowej. Eksperyment trwał trzy tygodnie i nie wymagał interwencji deweloperów — zadanie, na które inżynierom kernelowym zazwyczaj schodzą miesiące, zostało rozwiązane w pełni automatycznie.

Architektura optymalizacji wielooagentowej

Systema Cursor wykorzystywała dwa typy agentów: planistę i wykonawców. Planista rozdzielał zadania między autonomicznymi wykonawcami, monitorował metryki wydajności i dynamicznie równoważył obciążenie w czasie rzeczywistym. Cała koordynacja odbywała się za pośrednictwem pojedynczego pliku markdown, zawierającego reguły wykonania, scenariusze testowe i protokół interakcji.

Każdy wykonawca pracował niezależnie nad swoim podzbiorem jąder, stosując metody niskopoziomowej optymalizacji:

Google AdInline article slot
  • Ręczną potokizację operacji
  • Drobną konfigurację ładowania danych przez poziomy pamięci (rejestry, shared memory, global memory)
  • Dobór optymalnych parametrów bloków i siatek
  • Generowanie kodu w PTX (Parallel Thread Execution) — pośrednim reprezentacji podobnym do assemblera od NVIDIA

Taki podejście pozwoliło obejść ograniczenia tradycyjnych kompilatorów i zastosować heurystyki dostępne tylko ekspertom w dziedzinie programowania GPU.

Metodologia testowania i walidacji

Zoptymalizowane jądra przechodziły walidację na klastrze z 27 GPU NVIDIA B200 z użyciem benchmarku SOL-ExecBench. Ten instrument sprawdza nie tylko poprawność obliczeń, ale i fizyczną wykonalność wyników:

  • Porównanie z referencyjnymi implementacjami z cuBLAS i innych bibliotek NVIDIA
  • Ocena bliskości granicy teoretycznej przepustowości B200
  • Wykrywanie prób „oszustwa” — np. niepoprawnego użycia buforowania lub podstawienia danych wejściowych

Jeśli wynik przekraczał fizyczne możliwości architektury, przebieg był odrzucany jako nieważny. Mimo surowych kryteriów, systema pomyślnie ukończyła wszystkie 235 zadań w jednym cyklu bez powtórek.

Google AdInline article slot

Dwa tryby generacji: CUDA C++ i CuTe DSL

Eksperyment przeprowadzono w dwóch trybach programowania:

  • CUDA C++ z wbudowanym PTX: bezpośredni dostęp do ISA (Instruction Set Architecture) GPU, co pozwala sterować rejestrami i instrukcjami na poziomie bliskim assemblerowi.
  • CuTe DSL: nowe API przedmiotowo-zorientowane od NVIDIA, nastawione na operacje tensorowe i optymalizację pod architektury Blackwell. Ponieważ CuTe prawie nie występuje w danych treningowych modeli AI, ten tryb testował zdolność agenta do uczenia się z oficjalnej dokumentacji „od zera”.

Oba tryby wykazały wysoką skuteczność, co potwierdza uniwersalność podejścia Cursor do niskopoziomowej generacji kodu.

Przełom w optymalizacji GEMM

Szczególną uwagę przykuło jądro GEMM (General Matrix Multiply), wygenerowane przez systemę w pełni autonomicznie. To podstawowa operacja algebry liniowej, leżąca u podstaw niemal wszystkich etapów uczenia i inferencji sieci neuronowych.

Google AdInline article slot

Wyniki porównania:

  • Osiągnięto 86% wydajności referencyjnego jądra z cuBLAS
  • W przypadku niektórych małych macierzy — przewaga o 9% nad cuBLAS
  • cuBLAS, przypomnijmy, jest optymalizowane ręcznie przez zespół NVIDIA przez lata

Biorąc pod uwagę, że GEMM to „wąskie gardło” w większości obciążeń AI, nawet skromne przyspieszenie tu daje znaczny wzrost na poziomie całego systemu.

Statystyka i znaczenie praktyczne

Wartość 38% to geometryczne średnie przyspieszenie po wszystkich 235 zadaniach względem linii bazowej uzyskanej za pomocą pojedynczego agenta AI. Warto jednak zrozumieć szczegóły:

  • W 149 z 235 przypadków (63%) udało się przebić tę bazę
  • Przyspieszenie różniło się w zależności od typu jądra: od 5% do ponad 2×
  • Największy efekt obserwowano w jądrach o regularnej strukturze dostępu do pamięci

To już drugi udany projekt Cursor w dziedzinie optymalizacji kernelów dla Blackwell. Latem 2025 roku systema przepisała warstwę MoE (Mixture of Experts) własnego treningu od zera, osiągając 1.5× skrajne przyspieszenie.

Co ważne

  • Wielooagentowa systema może zastąpić miesiące ręcznej pracy inżynierów kernelowych
  • Automatyczna optymalizacja osiąga 86% poziomu cuBLAS — referencji od NVIDIA
  • Podejście działa zarówno z tradycyjnym CUDA C++, jak i nowymi DSL typu CuTe
  • 63% jąder pokazało poprawę względem pojedynczego agenta AI
  • Eksperyment potwierdza realność autonomicznych systemów AI w high-performance computing

— Editorial Team

Advertisement 728x90

Czytaj dalej