ROCm dohání CUDA v AI: OneROCm a Triton

ROCm proti CUDA: Jak AMD staví univerzální AI stack pro všechny akcelerátory

Za dvě a půl roku převedla AMD ROCm z rozptýlených komponent na jednotnou platformu OneROCm. Nyní prochází každý kód akcelerace touto vrstvou, což zajišťuje přenositelnost mezi Instinctem v datových centrech, Radeonem na stolních počítačích a integrovanou grafikou notebooků Strix Halo. Převod CUDA do HIP je zastaralý: pro inferenci LLM používají příkazy vLLM nebo SGLang s nativní podporou ROCm, zatímco Triton umožňuje psát jádra, která bez změny fungují na AMD i Nvidia.

Triton jako univerzální jazyk GPU programování

Triton od OpenAI se stal klíčovým rovnovážníkem. Python-DSL překládá jeden kód pro různé akcelerátory, čímž narušuje bariéru migrace. AMD investuje do Tritonu, MLIR a Torch.MLIR pro cílení PyTorchu na své hardwarové prostředí. Pro inferenci stačí uživatelům jen nainstalovat vLLM — optimalizovaná jádra Triton poskytují maximální tokenu za sekundu. Nové algoritmy pozornosti lze implementovat za dny, nikoli měsíce.

V HPC zůstává HIPify pro starší CUDA, ale pro nová jádra doporučují nástroje pro umělou inteligenci jako Claude – jsou rychlejší a přesnější.

Plná otevřenost a příspěvky komunity

ROCm je 100 % otevřený (kromě firmware), což zrychluje vývoj. Komunita opravuje chyby paralelně s AMD. Průzkum na GitHubu shromáždil více než 1000 stížností – vše bylo zpracováno: AMD uzavřela část, zbývající řeší komunita. Monitorování X podle klíčových slov jako "ROCm sucks" pomáhá prioritizovat.

Přímá podpora notebooků Strix Halo zvyšuje dostupnost: verze pro Windows jsou synchronizované s verzemi pro datová centra, takže vývojáři mohou testovat celý stack lokálně.

OneROCm: unifikace architektury

OneROCm sjednocuje CPU, GPU a FPGA pod společným rozhraním. Nízkoúrovňové části jsou specifické pro hardware, ale horní úroveň je přenositelná. Kód pro MI300X běží na Ryzen AI bez přepsání. To mění ekonomiku: vývojáři se soustředí na úkoly, nikoli na platformu.

• Přenositelnost uvnitř AMD: Instinct → Strix Halo.
• Křížová kompatibilita: Triton pro AMD/Nvidia.
• Otevřenost: Plný OSS, komunitní vývoj.
• Vydání: Šestinedělní cyklus jako u Chrome.
• Inferenční výkon: vLLM/SGLang nativně, srovnatelný s CUDA.

Plány: MI450 a AI-podporovaný vývoj

MI450 vyjde v druhé polovině roku 2026. ROCm se snaží dosáhnout "neviditelnosti" – stejně jako Chrome, kde verze není důležitá. Inženýři využívají LLM k generování a ověřování jader, což snižuje čas z měsíců na dny. Rozdíl s CUDA zůstává v tréninku a knihovnách, ale inferenční výkon je již na úrovni.

Oběti:

• Výhody ROCm: otevřenost, Triton, unifikace.
• Nevýhody: zralost ekosystému (dokumentace, třetí strany knihovny) je stále nižší než u CUDA.

Co je důležité

• ROCm je unifikovaný v OneROCm: přenositelnost mezi všemi AMD akcelerátory.
• Triton eliminuje potřebu převodu CUDA→HIP: jeden kód pro AMD i Nvidia.
• Všechny 1000+ stížnosti na GitHubu byly zpracovány, komunita aktivně přispívá.
• Podpora notebooků Strix Halo je synchronizovaná s Instinctem.
• Šestinedělní vydání + AI pro jádra = rychlá evoluce stacku.

Pro middle/senior: zkuste vLLM na ROCm Docker obrázcích, naučte se Triton pro nová jádra – migrace je zdarma, výkon konkurenční.

— Editorial Team