Články podle tagu: apple-silicon

Lokální LLM pro kód: soukromí bez ztráty rychlosti

Jak vybrat a nastavit lokální LLM pro generování kódu. Srovnání formátů, optimalizace pro Apple Silicon, integrace s agenty. Zachovejte soukromí dat bez zpomalení workflow.

FLUX.2-dev GGUF Q4_K_M: 29 GB VRAM na Apple Silicon

Rozbor spotřeby 29 GB VRAM modelem FLUX.2-dev GGUF na M3 Pro. MPS-overhead, dekvantizace, optimalizace snižují špičku o 1,5 GB. Instrukce pro vývojáře.

SD 3.5 Medium na M1: optimalizace do 11.6 GB

Rozbor problémů s pamětí Stable Diffusion 3.5 Medium na Apple Silicon. Sekvenční načítání T5 a DiT snižuje špičku z 21 na 11.6 GB. Kód a benchmarky pro M1 16 GB.