Artikel nach Tag: triton

ROCm holt in der KI auf CUDA auf: OneROCm und Triton

AMD hat ROCm in OneROCm für alle Acceleratoren vereinheitlicht. Triton schreibt Kernels für AMD/Nvidia. vLLM-Inferenz auf Augenhöhe mit CUDA. Sechswochen-Releases. Testen Sie den Stack auf Strix Halo.

ruGPT3XL mit 8k Kontext: sparse attention

Erweiterung von ruGPT3XL auf 8k Tokens durch sparse attention und Feinabstimmung. PPL 13.00 auf gazeta, Triton/SDPA-Optimierung ×1.85. Anleitungen für Entwickler.

GPU-Beschleunigung des Game of Life: CUDA Triton-Benchmarks

Vergleich von PyTorch, CUDA, Triton für den zellulären Automaten „Game of Life“ auf A40. Ergebnisse 22.5 ms, Kernel-Code. Optimierungen für speicherbeschränkte Aufgaben studieren. Die Analyse lesen.