Články podle tagu: triton

ROCm dohání CUDA v AI: OneROCm a Triton

AMD sjednotila ROCm v OneROCm pro všechny akcelerátory. Triton píše jádra pro AMD/Nvidia. vLLM inferenční na úrovni CUDA. Šestitýdenní vydání. Testujte stack na Strix Halo.

ruGPT3XL s kontextem 8k: sparse attention

Rozšíření ruGPT3XL na 8k tokenů prostřednictvím sparse attention a doladění. PPL 13.00 na gazeta, optimalizace Triton/SDPA ×1.85. Instrukce pro vývojáře.

GPU zrychlení hry Život: CUDA Triton benchmarky

Porovnání PyTorch, CUDA, Triton pro buněčný automat „Život“ na A40. Výsledky 22,5 ms, kód jader. Prozkoumejte optimalizace pro memory-bound úlohy. Čtěte analýzu.