Qwen 3.6 vs Gemma 4: testování na lokálním počítači

# Srovnání Qwen 3.6 a Gemma 4: praktické testování na lokálním počítači

Nové lokální modely Qwen 3.6 od Alibaba a Gemma 4 vykazují vysoký výkon i na průměrném notebooku. Otestovali jsme je v reálných podmínkách vývoje, kde jsme nastavili prostředí pro práci s nástroji a kódem. Výsledky potvrzují: oba modely se efektivně integrují do pracovního procesu při správné konfiguraci, ale vyžadují jemné ladění pro omezené zdroje.

Hardwareová základna a volba nástrojů

Testování probíhalo na notebooku Asus Tuf Gaming s diskrétní grafikou NVIDIA RTX 4070 (8 GB VRAM). Hlavní omezení: omezená videopaměť a nutnost vyvážení mezi zrychlením GPU a systémovými zdroji. Pro spuštění modelů jsme zvolili:

• LM Studio — pro načítání a správu lokálních modelů
• Zed IDE — jako hlavní vývojové prostředí s integrovaným AI agentem

Klíčové požadavky: podpora nástrojů (tools) pro práci se souborovým systémem a terminálem. Alternativní CLI klienti (OpenCode, Claude CLI, pi.dev) jsme vyloučili kvůli:

• Selháním při spouštění systémových promptů
• Nesprávnému rozpoznání shellu (Bash/Powershell)
• Problémům s editací souborů v reálném čase

Zed IDE ukázal stabilní fungování po aktivaci agenta přes ikonu „hvězdička“ v pravém dolním rohu (nastavení v sekci AI).

Konfigurace LM Studio pro Qwen 3.6

Pro správné fungování Qwen 3.6 v LM Studio bylo nutné upravit Jinja šablonu. Kroky:

• V sekci MyModels vybrat model Qwen 3.6
• Otevřít nastavení (ikona ozubeného kola)
• Na kartě Inference nahradit šablonu optimalizovanou

Kritické změny:

• Přidání {%- set enable_thinking = false %} na začátek šablony pro zrychlení odpovědí
• Omezení vykládání na GPU na 80-90 % celkové VRAM
• Nastavení délky kontextu ≤60K s ohledem na volnou RAM

Původní šablona (zkrácená pro příklad):

{%- set enable_thinking = false %}
{%- set image_count = namespace(value=0) %}
{%- macro render_content(content, do_vision_count, is_system_content=false) %}
    {%- if content is string %}
        {{- content }}
    {%- elif content is iterable and content is not mapping %}
        {%- for item in content %}
            {%- if 'image' in item or 'image_url' in item or item.type == 'image' %}
                {%- if do_vision_count %}
                    {%- set image_count.value = image_count.value + 1 %}
                {%- endif %}
                {{- '<tool_call><tool_call><tool_call>' }}
            {%- elif 'text' in item %}
                {{- item.text }}
            {%- endif %}
        {%- endfor %}
    {%- endif %}
{%- endmacro %}

Při překročení 90 % VRAM docházelo k halucinacím a přepnutí na čínštinu/španělštinu. Červené varování v rozhraní LM Studio signalizuje kritickou chybu konfigurace.

Systémový prompt a optimalizace rychlosti

Pro zkrácení odpovědí a úsporu tokenů jsme použili specializovaný systémový prompt:

Vy — profesionální vývojář React/NextJS. Odpovídejte stručně, bez vysvětlení. Používejte pouze nezbytné tokeny. Při práci se soubory: nejprve zkontrolujte strukturu projektu, pak proveďte změny. Vyhněte se generování kódu mimo aktuální adresář.

Efekty optimalizace:

• Průměrná délka odpovědí klesla o 30 %
• Zrychlení generování o 15-20 % díky vypnutí režimu thinking
• Snížení chyb při práci s nástroji (tools)

Důležité: vypnutí thinking (enable_thinking = false) je klíčové pro úkoly nevyžadující vícekrokové uvažování. Pro složité algoritmy doporučujeme režim nechat zapnutý.

Srovnání výkonu

Testování probíhalo na úkolech:

• Generování React komponent
• Ladění TypeScript
• Automatizace terminálových příkazů

Qwen 3.6 (35B, Q4_K_M):

• Výhoda: přesnost při práci s nástroji
• Nevýhoda: vysoká spotřeba VRAM při kontextu >48K
• Rychlost: 12-15 tokenů/sek při GPU-offload 85 %

Gemma 4:

• Výhoda: stabilita při nízké VRAM
• Nevýhoda: chyby v vícekrokových voláních nástrojů
• Rychlost: 18-22 tokenů/sek při stejných nastaveních

Oba modely zpracovávaly prompt typu:

Ahoj. Jsi profesionální vývojář React/NextJS. V aktuálním adresáři...

ale Qwen 3.6 vykázal o 25 % méně chyb při práci se souborovým systémem. Gemma 4 generovala kód rychleji, ale vyžadovala ruční korekci volání nástrojů.

Co je důležité

• Vyvážení VRAM: nikdy nevykládejte na GPU více než 90 % videopaměti. Pro RTX 4070 (8 GB) je optimálních 7 GB.
• Limit kontextu: délka kontextu 60K vyžaduje minimálně 16 GB RAM. Na systémech s 32 GB nechte 4-5 GB pro OS.
• Nástroje: Qwen 3.6 funguje stabilněji s tools, ale Gemma 4 je rychlejší v generování kódu.
• Prompty: vypnutí thinking zrychluje odpovědi, ale snižuje kvalitu u složitých úkolů.
• Prostředí: Zed IDE je lepší než CLI klienti pro integraci s vývojovými nástroji.

— Editorial Team