Artykuły według tagu: triton

ROCm dogania CUDA w AI: OneROCm i Triton

AMD ujednoliciła ROCm w OneROCm dla wszystkich akceleratorów. Triton pisze jądra pod AMD/Nvidia. vLLM inferencja na poziomie CUDA. Sześciotygodniowe wydania. Testujcie stos na Strix Halo.

ruGPT3XL z kontekstem 8k: sparse attention

Rozszerzenie ruGPT3XL do 8k tokenów poprzez sparse attention i dalsze trenowanie. PPL 13.00 na gazeta, optymalizacja Triton/SDPA ×1.85. Instrukcja dla deweloperów.

GPU przyspieszenie gry Życie: CUDA Triton benchmarki

Porównanie PyTorch, CUDA, Triton dla automatu komórkowego „Życie” na A40. Wyniki 22,5 ms, kod jąder. Zapoznaj się z optymalizacjami dla memory-bound zadań. Przeczytaj analizę.