ROCm dogania CUDA w AI: OneROCm i Triton

ROCm vs CUDA: jak AMD buduje uniwersalny stos AI dla wszystkich akceleratorów

W ciągu dwóch i pół roku AMD przekształciła ROCm z rozproszonych komponentów w zintegrowaną platformę OneROCm. Teraz każdy kod akceleracji przechodzi przez ten stos, zapewniając przenośność między Instinct w centrach danych, Radeonami na stacjach roboczych i grafiką wbudowaną w laptopy Strix Halo. Konwersja CUDA do HIP jest już przestarzała: komendy inferencji LLM używają vLLM lub SGLang z natywną obsługą ROCm, a Triton pozwala pisać jądra działające zarówno na AMD, jak i Nvidia bez zmian.

Triton jako uniwersalny język programowania GPU

Triton od OpenAI stał się kluczowym równoważnikiem. Python-DSL kompiluje jeden kod pod różne akceleratory, eliminując barierę migracji. AMD inwestuje w Triton, MLIR i Torch.MLIR, aby skierować PyTorch na swoje sprzęty. W przypadku inferencji wystarczy zainstalować vLLM — optymalizowane jądra Triton dają maksimum tokenów na sekundę. Nowe algorytmy uwagi realizuje się w dni, a nie miesiące.

W HPC HIPify nadal służy do starszych kodów CUDA, ale dla nowych jąder zaleca się narzędzia AI typu Claude — są one szybsze i dokładniejsze.

Pełna otwartość i wkład społeczności

ROCm jest 100% otwarty (poza firmware’ami), co przyspiesza rozwój. Społeczność naprawia błędy równolegle z AMD. Ankieta na GitHubie zgromadziła ponad 1000 skarg — wszystkie zostały przetworzone: część zamknięto przez AMD, resztę załatwiła społeczność. Monitorowanie X po hasztagach typu «ROCm sucks» pomaga priorytetyzować problemy.

Wsparcie dla laptopów Strix Halo z fabryki zwiększa dostępność: wydania Windowsowe synchronizują się z tymi dla centrach danych, umożliwiając deweloperom testowanie stosu lokalnie.

OneROCm: unifikacja architektury

OneROCm łączy CPU, GPU i FPGA pod wspólnym interfejsem. Niskopoziomowe części są specyficzne dla sprzętu, ale warstwa górna jest przenośna. Kod z MI300X działa na Ryzen AI bez ponownego pisania. To zmienia ekonomikę: deweloperzy skupiają się na zadaniach, a nie na platformie.

• Przenośność w obrębie AMD: Instinct → Strix Halo.
• Krosplatformowość: Triton dla AMD/Nvidia.
• Otwartość: pełny OSS, wspierany przez społeczność.
• Wydania: cykl sześciotygodniowy, jak u Chrome.
• Inferencja: vLLM/SGLang natywnie, wydajność porównywalna z CUDA.

Plany: MI450 i projektowanie wspierane przez AI

MI450 ma trafić na rynek w drugiej połowie 2026 roku. ROCm dąży do "niewidzialności" — jak Chrome, gdzie wersja nie ma znaczenia. Inżynierowie wykorzystują LLM do generowania i walidacji jąder, skracając czas z miesięcy do dni. Rozdźwięk z CUDA nadal istnieje w uczeniu i bibliotekach, ale inferencja została dogięta.

Zalety i wady:

• Zalety ROCm: otwartość, Triton, unifikacja.
• Wady: dojrzałość ekosystemu (dokumentacja, biblioteki trzecich stron) ustępuje CUDA.

Co ważne

• ROCm zintegrowany w OneROCm: przenośność między wszystkimi akceleratorami AMD.
• Triton eliminuje potrzebę konwersji CUDA→HIP: jeden kod dla AMD i Nvidia.
• Przetworzono ponad 1000 skarg z GitHuba, społeczność aktywnie współtworzy.
• Obsługa laptopów Strix Halo synchronizowana z Instinct.
• Cykl sześciotygodniowy + AI do jąder = szybka ewolucja stosu.

Dla developerów średniozaawansowanych i seniorów: testujcie vLLM na obrazach Dockerowych ROCm, uczcie się Triton do tworzenia nowych jąder — migracja jest darmowa, wydajność konkurencyjna.

— Editorial Team