Tenstorrent, RISC-V 기반 Galaxy Blackhole 서버로 Nvidia GB300 성능 추월 입증
Tenstorrent는 RISC-V 아키텍처 기반의 새로운 Galaxy Blackhole 서버 시스템이 여러 지표에서 Nvidia의 가장 강력한 GPU(GB300 모델 포함)와 직접 경쟁하고 이를 능가할 수 있음을 시연했습니다.
RISC-V, 왕좌에 도전하다: Tenstorrent의 11만 달러 서버가 Nvidia GB300을 상대로 판도를 바꾸는 방법
서론
수십 년 동안 하나의 아키텍처와 하나의 제조사가 AI 가속기 시장을 지배해 왔습니다. Nvidia는 GPU와 독점 CUDA 생태계로 진정한 경쟁의 여지를 남기지 않는 듯 보였습니다. 그러나 2026년 4월 28일, 전설적인 칩 설계자 Jim Keller가 이끄는 스타트업 Tenstorrent가 Galaxy Blackhole 플랫폼의 출시를 공식 발표했습니다. 이는 개방형 RISC-V 아키텍처를 기반으로 한 서버 시스템으로, 여러 주요 지표에서 Nvidia의 최신 GB300 솔루션을 따라잡을 뿐만 아니라 총소유비용에서 5배의 이점을 제공합니다.
이벤트 세부 사항 및 타임라인
2026년 4월 27일, 온라인 프레젠테이션 TT-Deploy Live에서 Tenstorrent는 Galaxy Blackhole 서버 기반의 풀스택 AI 인프라를 공개했습니다. 별도의 CPU 호스트에 연결되는 기존 GPU 가속기와 달리 Galaxy는 완전히 통합된 시스템입니다. 6U 섀시의 각 서버는 32개의 Blackhole 칩이 통합 메시 네트워크로 연결되어 총 100Tbps의 대역폭을 제공합니다. 이 전체 패키지의 가격은 단일 서버 기준 11만 달러, 기본 슈퍼클러스터(서버 4대) 기준 44만 달러부터 시작합니다.
기술 사양은 인상적입니다: FP8 모드에서 23페타플롭스 성능, 1TB GDDR6 메모리(16TB/s 대역폭), 6.2GB 온칩 SRAM(2.9PB/s 속도), 확장을 위한 56개의 800G 이더넷 포트. 시스템의 핵심은 Tensix 코어 기반의 Blackhole 칩으로, 각 코어에는 행렬 곱셈기, 벡터 유닛, 로컬 SRAM을 갖춘 5개의 RISC-V 프로세서가 포함되어 있습니다.
하지만 진정한 센세이션은 하드웨어 자체가 아니라 Tenstorrent가 라이브로 시연한 소프트웨어-하드웨어 성능이었습니다. 회사는 현재 가장 복잡한 MoE 모델 중 하나인 대규모 언어 모델 DeepSeek-R1-0528 671B를 실행했으며, 그 결과는 도발적이라고밖에 표현할 수 없습니다.
영향 및 중요성
Tenstorrent는 가장 민감한 지표인 추론 성능에서 먼저 타격을 가했습니다. 지연 시간에 민감한 작업에 최적화된 Blitz 모드에서 Galaxy Blackhole은 사용자당 초당 최대 350토큰을 제공합니다. 이는 기존 GPU 시스템뿐만 아니라 Groq 및 Cerebras의 특화된 추론 플랫폼도 능가하는 성능입니다. 또한 시스템은 10만 컨텍스트를 처리하고 첫 번째 토큰을 4초 이내에 출력하여, 166페이지 분량의 텍스트를 거의 즉시 이해하는 것과 같습니다.
두 번째 전선은 비용입니다. Tenstorrent는 Galaxy의 토큰당 비용이 약 6달러로, GPU(GB300 포함) 기반 경쟁사의 약 30달러에 비해 크게 낮다고 주장합니다. 총소유비용 측면에서 이는 최대 5배의 이점으로 이어집니다. 그리고 서버 가격은 11만 달러로, Nvidia의 8-가속기 DGX 시스템보다 3~5배 저렴합니다.
세 번째 영역은 비디오 생성입니다. Galaxy Blackhole은 720p 해상도의 81프레임으로 구성된 5초 분량의 비디오를 2.4초 만에 생성하여 실시간보다 빠릅니다. Tenstorrent는 이 클래스의 작업에서 GPU 솔루션 대비 10배의 이점을 주장합니다. 이는 영화 제작부터 시뮬레이션에 이르기까지 비용 효율적인 산업 규모의 비디오 생성 애플리케이션의 문을 엽니다.
의미는 단순한 벤치마크를 넘어섭니다. RISC-V는 x86(Intel/AMD)이나 ARM과 달리 라이선스 비용이 없는 개방형 아키텍처입니다. Tenstorrent 생태계가 성숙함을 입증한다면, AI 업계는 Nvidia에 대한 독점 의존도를 줄일 수 있는 최초의 진정한 접근 가능한 경로를 얻게 됩니다. "Hugging Face의 모델 중 90%가 Tenstorrent에서 바로 작동합니다"라고 회사는 주장하며, 많은 경쟁사를 무너뜨린 소프트웨어 호환성 문제가 해결되고 있음을 암시합니다.
주요 플레이어들의 반응
Jim Keller는 프레젠테이션에서 거침없는 발언을 했습니다: "우리는 AI를 포함한 모든 분야에서 모두를 분쇄할 것입니다." 이는 단순한 허풍이 아닙니다. Keller는 AMD Zen, Apple의 A4/A5 칩, Tesla의 자율주행 시스템을 설계한 인물로, 그의 말은 무게가 있습니다.
Nvidia는 Tenstorrent의 직접적인 도전에 대해 공식적으로 언급하지 않았지만, 2026년 2~3월에 발표된 독립 분석 기관 SemiAnalysis와 Signal65의 데이터에 따르면 GB300 NVL72는 이전 Hopper 세대 대비 50배의 성능 향상과 35배의 토큰당 비용 절감을 달성했습니다. Microsoft, CoreWeave, Oracle Cloud Infrastructure 등 주요 클라우드 제공업체는 이미 에이전트 코딩과 같은 저지연 및 장기 컨텍스트 시나리오를 위해 데이터 센터에 GB300 NVL72를 배포하고 있습니다.
업계 분석가들은 신중한 입장을 보이며, Tenstorrent가 벤치마크에서 배치 크기를 공개하지 않았다고 지적합니다. 이는 프로덕션 환경에서 중요한 확장성 지표입니다. 단일 사용자에게 초당 350토큰을 제공하는 것과 64개의 병렬 요청에 대해 동일한 속도를 유지하는 것은 별개의 문제입니다. 그럼에도 불구하고 사실은 분명합니다: RISC-V가 AI 가속기의 최상위 계층에 진입하여 설득력 있는 선언을 했습니다.
전망 및 결론
Tenstorrent는 Nvidia를 상대로 고전적인 '측면 공격'을 실행했습니다. 최고 성능에 대한 정면 승부 대신, 스타트업은 평가 기준을 재정의했습니다: 중요한 것은 최대 FLOPS보다 지속 처리량, 메모리 효율성, 그리고 모든 데이터 센터 관리자에게 익숙한 기술인 이더넷 네트워크 패브릭의 확장성입니다.
앞으로 1년이 중요합니다. Galaxy Blackhole은 이미 주문 가능하며 Cirrascale, Equinix, 일본 제공업체 ai&를 포함한 초기 고객에게 배포되고 있습니다. TT-Forge 컴파일러부터 저수준 SDK TT-Metalium까지 개방된 소프트웨어 생태계가 다양한 모델에서 안정적으로 작동한다면, Tenstorrent는 추론 시장에서 상당한 점유율을 확보할 기회를 잡을 수 있습니다.
RISC-V의 아키텍처 선택은 또한 '주권 AI'를 추구하는 조직에게 플랫폼을 매력적으로 만듭니다: 개방형 스택은 모델 그래프부터 코어 실행까지 모든 수준을 감사할 수 있게 합니다. AI 규제가 강화되는 시대에 이러한 이점은 과장해도 지나치지 않습니다.
Nvidia에 대한 승리는 빠르지 않을 것입니다. Nvidia는 강력한 생태계, 신세대에서 50배의 효율성 향상, HBM 메모리 공급망에 대한 통제력을 보유하고 있습니다. 그러나 Tenstorrent는 AI 가속기에서 아키텍처 독점이 더 이상 당연하지 않다는 것을 보여주었습니다. 개방성과 낮은 토큰 비용 추세가 계속된다면, 주요 수혜자는 신규 모델을 테스트하는 스타트업부터 프로덕션 시스템을 배포하는 기업에 이르기까지 소비자가 될 것입니다. 민주화된 AI 하드웨어의 시대가 시작된 것으로 보입니다.
— Editorial Team
아직 댓글이 없습니다.