Articles par tag: triton

ROCm rattrape CUDA en IA : OneROCm et Triton

AMD a unifié ROCm en OneROCm pour tous les accélérateurs. Triton écrit des kernels pour AMD/Nvidia. Inférence vLLM au même niveau que CUDA. Sorties toutes les six semaines. Testez la pile sur Strix Halo.

ruGPT3XL avec contexte 8k : sparse attention

Extension de ruGPT3XL à 8k tokens via sparse attention et fine-tuning. PPL 13.00 sur gazeta, optimisation Triton/SDPA ×1.85. Instructions pour les développeurs.

Accélération GPU du Game of Life : benchmarks CUDA Triton

Comparaison de PyTorch, CUDA, Triton pour l'automate cellulaire « Game of Life » sur A40. Résultats 22,5 ms, code kernel. Étude des optimisations pour les tâches liées à la mémoire. Lisez l'analyse.