# Gemma 4 od Google DeepMind: nové otevřené modely s MoE architekturou a multimodálností
Google DeepMind představila Gemma 4 — další generaci otevřených modelů AI na bázi Gemini 3. Řada zahrnuje čtyři varianty: E2B, E4B, 26B MoE a 31B Dense. Klíčovou novinkou se stal model 26B s architekturou Mixture of Experts (MoE), kde se během inferenčního procesu aktivuje pouze 3,8 miliardy parametrů. To zajišťuje vysoký výkon při zachování hloubky znalostí. Starší model 31B Dense se umístil na třetím místě v žebříčku Arena AI Text mezi otevřenými analogy a demonstruje efektivitu v poměru „inteligence na parametr“.
Všechny modely jsou multimodální: zpracovávají obrázky a video. Kompaktní E2B a E4B navíc podporují audio vstup pro lokální rozpoznávání řeči. Kontextové okno se pohybuje od 128 tisíc tokenů u mladších po 256 tisíc u starších. Je vestavena nativní podpora function calling a strukturovaného JSON výstupu pro agentní aplikace.
Architektonické vlastnosti a optimalizace
MoE v modelu 26B minimalizuje výpočetní zátěž: z 26 miliard parametrů je aktivně využíváno pouze 3,8 miliardy. To je klíčové pro úlohy s nízkou latencí. 31B Dense zachovává hustou architekturu, ale je optimalizována pro konkurenci s modely dvojnásobně a více většími.
Kompaktní E2B a E4B jsou určeny pro edge zařízení:
- Android smartphony;
- Raspberry Pi;
- Jetson Nano.
Fungují plně offline bez závislosti na cloudu. Podpora 140+ jazyků a licence Apache 2.0 usnadňují komerční využití bez přísných omezení.
Váhy jsou k dispozici na Hugging Face, Kaggle, Ollama, LM Studio a v Docker obrazy. Starší modely se vejdou na jednom GPU, což je ideální pro scénáře s požadavky na soukromí dat a digitální suverenitu.
Možnosti pro vývojáře
Gemma 4 je přizpůsobená pro reálné úlohy middle/senior vývojářů:
- Multimodalita: vstupní data — text, obrázky, video, audio (pro E2B/E4B).
- Agentní funkce: nativní function calling a JSON strukturovaný výstup bez postprocesingu.
- Dlouhý kontext: až 256K tokenů pro zpracování velkých dokumentů nebo dialogů.
- Lokální nasazení: od mobilních zařízení po servery s jedním GPU.
- Vícejazyčnost: 140+ jazyků bez dodatečného tréninku.
To umožňuje integrovat modely do aplikací s nízkou latencí: chatboti, RAG systémy, on-device AI.
Benchmarky a srovnání
31B Dense překonává mnoho otevřených modelů dvojnásobně větších v Arena AI Text (3. místo). Vývojáři Google se zaměřili na efektivitu: vysoké skóre při menší velikosti. Kompaktní verze udržují výkon pro edge úlohy s omezenými zdroji.
Pro testování použijte Hugging Face Transformers nebo Ollama. Příklad základního načtení 31B:
import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
model_name = "google/gemma-4-31b"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16, device_map="auto")Inferenční na jednom GPU s kvantizací (např. 4-bit) snižuje paměťovou náročnost na 20–25 GB.
Co je důležité
- MoE optimalizace: 26B aktivuje 3,8B parametrů — rovnováha rychlosti a kvality.
- Edge podpora: E2B/E4B pro Android, Raspberry Pi, offline řeč.
- Agentní funkce: function calling + JSON z krabice.
- Dostupnost: Apache 2.0, váhy na HF/Ollama, 140+ jazyků.
- Efektivita: 31B konkuruje modelům 60B+ v benchmarkách.
Rodina Gemma 4 rozšiřuje možnosti lokálního AI pro produkční úlohy bez kompromisů ve funkcích.
— Editorial Team
Zatím žádné komentáře.