首页 技术发现 减压
🇬🇧 English 🇪🇸 Español 🇩🇪 Deutsch 🇫🇷 Français 🇵🇱 Polski 🇨🇿 Česky 🇨🇳 中文 🇰🇷 한국어

按标签查看文章: gpt-oss

在 6 GB GPU 上运行 MoE GPT-OSS-120B，最高 30 t/s

在 6 GB GPU 上运行 MoE GPT-OSS-120B，最高 30 t/s

使用 -cmoe 和 --fit 在弱 GPU 上加速 GPT-OSS-120B。MoE 模型的高效 RAM 使用。开发者指南。