Artículos por etiqueta: triton

ROCm se está poniendo al día con CUDA en IA: OneROCm y Triton

AMD unificó ROCm en OneROCm para todos los aceleradores. Triton escribe kernels para AMD/Nvidia. Inferencia vLLM a la par con CUDA. Lanzamientos cada seis semanas. Prueba la pila en Strix Halo.

ruGPT3XL con contexto de 8k: atención dispersa

Expansión de ruGPT3XL a 8k tokens mediante atención dispersa y ajuste fino. PPL 13.00 en gazeta, optimización Triton/SDPA ×1.85. Instrucciones para desarrolladores.

Aceleración GPU del Game of Life: benchmarks CUDA Triton

Comparación de PyTorch, CUDA, Triton para el autómata celular "Game of Life" en A40. Resultados 22.5 ms, código del kernel. Estudia optimizaciones para tareas limitadas por memoria. Lee el análisis.