Artículos por etiqueta: gguf-q4km

FLUX.2-dev GGUF Q4_K_M: 29 GB de VRAM en Apple Silicon

Desglose del consumo de 29 GB de VRAM por el modelo FLUX.2-dev GGUF en M3 Pro. MPS-overhead, dequantización, optimizaciones reducen el pico en 1.5 GB. Instrucciones para desarrolladores.