按标签查看文章: triton

ROCm 在 AI 领域正在赶上 CUDA：OneROCm 和 Triton

AMD 将 ROCm 统一为 OneROCm，用于所有加速器。Triton 为 AMD/Nvidia 编写内核。vLLM 推理与 CUDA 相当。六周发布周期。在 Strix Halo 上测试堆栈。

ruGPT3XL 带 8k 上下文：稀疏注意力

通过稀疏注意力和微调将 ruGPT3XL 扩展到 8k 令牌。在 gazeta 上 PPL 13.00，Triton/SDPA 优化 ×1.85。开发者指南。

生命游戏的 GPU 加速：CUDA Triton 基准测试

PyTorch、CUDA、Triton 在 A40 上元胞自动机「Game of Life」的比较。结果 22.5 ms，kernel code。研究 memory-bound 任务的优化。阅读分析。