We use cookies to measure traffic and show relevant ads. By clicking Accept you agree to our use of analytics and advertising cookies.
AMD가 모든 가속기를 위한 OneROCm으로 ROCm을 통합했습니다. Triton은 AMD/Nvidia용 커널을 작성합니다. vLLM 추론이 CUDA와 동등합니다. 6주 릴리스. Strix Halo에서 스택을 테스트하세요.