Gemma 4：来自 Google 的开源 MoE 模型，参数高达 31B

Google DeepMind 推出的 Gemma 4：采用 MoE 架构和多模态的新一代开源模型

Google DeepMind 推出了 Gemma 4——基于 Gemini 3 的新一代开源 AI 模型。该系列包括四个变体：E2B、E4B、26B MoE 和 31B Dense。最大的亮点是 26B 模型采用 Mixture of Experts (MoE) 架构，在推理过程中仅激活 38 亿参数。这种设计在保持知识深度的同时，提供高性能。旗舰 31B Dense 模型在 Arena AI Text 排行榜开源模型中位列第三，展现了“每参数智能”的高效性。

所有模型均支持多模态：可处理图像和视频。紧凑的 E2B 和 E4B 还支持音频输入，用于本地语音识别。上下文窗口从小模型的 128K 令牌到大模型的 256K 令牌不等。内置原生函数调用和结构化 JSON 输出支持，适用于代理式应用。

架构特点与优化

26B 模型中的 MoE 显著降低了计算负载：在 260 亿参数中，仅有 38 亿参数被激活。这对低延迟任务至关重要。31B Dense 保留了稠密架构，但经过优化，能与规模大 2 倍以上的模型竞争。

紧凑的 E2B 和 E4B 针对边缘设备设计：

• Android 智能手机；
• Raspberry Pi；
• Jetson Nano。

它们可完全离线运行，无需云端依赖。支持 140 多种语言以及 Apache 2.0 许可，简化了商业使用，无严格限制。

模型权重可在 Hugging Face、Kaggle、Ollama、LM Studio 和 Docker 镜像中获取。大型模型可在单 GPU 上运行，这对需要数据隐私和数字主权的场景尤为重要。

开发者能力

Gemma 4 专为中高级开发者的实际任务量身打造：

• 多模态：输入数据——文本、图像、视频、音频（适用于 E2B/E4B）。
• 代理式特性：原生函数调用和结构化 JSON 输出，无需后处理。
• 长上下文：最长 256K 令牌，适用于处理大型文档或对话。
• 本地部署：从移动设备到单 GPU 服务器。
• 多语言：无需微调，支持 140 多种语言。

这使得它能无缝集成到低延迟应用中：聊天机器人、RAG 系统、设备端 AI。

基准测试与比较

31B Dense 在 Arena AI Text 中超越了许多规模为其两倍的开源模型（位列第三）。Google 开发者注重效率：在更小的规模下实现高指标。紧凑版本在资源受限的边缘任务中保持出色性能。

测试可使用 Hugging Face Transformers 或 Ollama。31B 基本加载示例：

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM

model_name = "google/gemma-4-31b"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16, device_map="auto")

单 GPU 推理结合量化（例如 4-bit）可将内存降至 20-25 GB。

关键要点

• MoE 优化：26B 仅激活 38 亿参数——速度与质量的完美平衡。
• 边缘支持：E2B/E4B 适用于 Android、Raspberry Pi、离线语音。
• 代理式特性：开箱即用函数调用 + JSON。
• 易用性：Apache 2.0 许可、HF/Ollama 权重、140+ 语言。
• 高效性：31B 在基准中与 600 亿+ 参数模型竞争。

Gemma 4 系列扩展了本地 AI 在生产任务中的能力，而不牺牲功能。

— Editorial Team