Qwen 3.6 与 Gemma 4：本地机器测试

Qwen 3.6 与 Gemma 4 的比较：在本地机器上的实际测试

阿里推出的全新本地模型 Qwen 3.6 和 Gemma 4，即便在普通的笔记本电脑上也能展现出色的性能。我们在真实的开发环境中对它们进行了测试，搭建了用于工具和代码工作的环境。结果证实：只要正确配置，这两个模型都能有效融入工作流程，但对于资源有限的情况需要进行微调。

硬件配置与工具选择

测试在一台配备独立 NVIDIA RTX 4070 显卡（8 GB 显存）的 Asus Tuf Gaming 笔记本上进行。主要限制：显存有限，需要平衡 GPU 加速与系统资源。选择以下工具运行模型：

• LM Studio — 用于加载和管理本地模型
• Zed IDE — 作为主要开发环境，集成 AI 代理

关键要求：支持工具操作文件系统和终端。备选 CLI 客户端（OpenCode、Claude CLI、pi.dev）因以下原因被排除：

• 系统提示启动失败
• shell 检测错误（Bash/PowerShell）
• 实时文件编辑问题

Zed IDE 在通过右下角“星标”图标激活代理后（AI 设置部分）表现出稳定性能。

为 Qwen 3.6 配置 LM Studio

要在 LM Studio 中让 Qwen 3.6 正常工作，需要修改 Jinja 模板。具体步骤：

• 在 MyModels 部分，选择 Qwen 3.6 模型
• 打开设置（齿轮图标）
• 在 Inference 选项卡中，用优化的模板替换原有模板

关键修改：

• 在模板开头添加 {%- set enable_thinking = false %} 以加速响应
• 将 GPU 卸载限制在总显存的 80-90%
• 根据可用 RAM 设置上下文长度 ≤60K

原始模板（示例略）:

{%- set enable_thinking = false %}
{%- set image_count = namespace(value=0) %}
{%- macro render_content(content, do_vision_count, is_system_content=false) %}
    {%- if content is string %}
        {{- content }}
    {%- elif content is iterable and content is not mapping %}
        {%- for item in content %}
            {%- if 'image' in item or 'image_url' in item or item.type == 'image' %}
                {%- if do_vision_count %}
                    {%- set image_count.value = image_count.value + 1 %}
                {%- endif %}
                {{- '<tool_call><tool_call><tool_call>' }}
            {%- elif 'text' in item %}
                {{- item.text }}
            {%- endif %}
        {%- endfor %}
    {%- endif %}
{%- endmacro %}

显存超过 90% 会导致幻觉输出并切换到中文/西班牙语。LM Studio 界面中的红色警告表示关键配置错误。

系统提示与速度优化

为缩短响应长度并节省令牌，使用了专用的系统提示：

You are a professional React/NextJS developer. Respond briefly, without explanations. Use only necessary tokens. When working with files: first check the project structure, then make changes. Avoid generating code outside the current directory.

优化效果：

• 平均响应长度减少 30%
• 禁用 thinking 模式后，生成速度提升 15-20%
• 工具操作错误减少

重要提示：对于不需要多步推理的任务，禁用 thinking（enable_thinking = false）至关重要。对于复杂算法，建议保持该模式开启。

性能比较

测试任务包括：

• 生成 React 组件
• 调试 TypeScript
• 自动化终端命令

Qwen 3.6 (35B, Q4_K_M)：

• 优势：工具操作准确性高
• 劣势：上下文 >48K 时显存占用高
• 速度：85% GPU 卸载下 12-15 令牌/秒

Gemma 4：

• 优势：低显存下稳定
• 劣势：多步工具调用出错
• 速度：相同设置下 18-22 令牌/秒

两个模型都能正确处理此类提示：

Hi. You are a professional React/NextJS developer. In the current directory...

但 Qwen 3.6 在文件系统操作中错误减少 25%。Gemma 4 代码生成更快，但工具调用需手动修复。

关键要点

• 显存平衡：切勿向 GPU 卸载超过 90% 显存。对于 RTX 4070 (8 GB)，7 GB 为最佳。
• 上下文限制：60K 上下文长度至少需 16 GB 内存。在 32 GB 系统上，为操作系统留 4-5 GB。
• 工具：Qwen 3.6 在工具使用上更稳定，但 Gemma 4 代码生成更快。
• 提示：禁用 thinking 可加速响应，但复杂任务质量下降。
• 环境：Zed IDE 优于 CLI 客户端，用于开发工具集成。

— Editorial Team