Artikel nach Tag: vram-profiling

FLUX.2-dev GGUF Q4_K_M: 29 GB VRAM auf Apple Silicon

Aufschlüsselung des 29 GB VRAM-Verbrauchs durch FLUX.2-dev GGUF-Modell auf M3 Pro. MPS-Overhead, Dequantisierung, Optimierungen reduzieren Peak um 1,5 GB. Anweisungen für Entwickler.