태그별 기사: triton

AI에서 ROCm이 CUDA를 따라잡는다: OneROCm과 Triton

AMD가 모든 가속기를 위한 OneROCm으로 ROCm을 통합했습니다. Triton은 AMD/Nvidia용 커널을 작성합니다. vLLM 추론이 CUDA와 동등합니다. 6주 릴리스. Strix Halo에서 스택을 테스트하세요.

8k 컨텍스트의 ruGPT3XL: 희소 어텐션

희소 어텐션과 파인튜닝을 통한 ruGPT3XL의 8k 토큰 확장. gazeta에서 PPL 13.00, Triton/SDPA 최적화 ×1.85. 개발자를 위한 지침.

Game of Life의 GPU 가속화: CUDA Triton 벤치마크

A40에서 세포 자동자 "Game of Life"를 위한 PyTorch, CUDA, Triton 비교. 결과 22.5 ms, 커널 코드. 메모리 바운드 작업 최적화 연구. 분석 읽기.