按标签查看文章: moe

NVIDIA Nemotron 3 Nano Omni：效率提升9倍的多模态AI

NVIDIA推出了开放模型Nemotron 3 Nano Omni，融合视频、音频和文本。了解9倍效率提升及面向企业AI代理的架构。

在 6 GB GPU 上运行 MoE GPT-OSS-120B，最高 30 t/s

使用 -cmoe 和 --fit 在弱 GPU 上加速 GPT-OSS-120B。MoE 模型的高效 RAM 使用。开发者指南。