Artikel nach Tag: apple-silicon

Lokale LLMs für Code: Datenschutz ohne Geschwindigkeitsverlust

Wie man lokale LLMs für Code-Generierung auswählt und einrichtet. Vergleich der Formate, Optimierung für Apple Silicon, Integration mit Agents. Datenschutz wahren, ohne den Workflow zu verlangsamen.

FLUX.2-dev GGUF Q4_K_M: 29 GB VRAM auf Apple Silicon

Aufschlüsselung des 29 GB VRAM-Verbrauchs durch FLUX.2-dev GGUF-Modell auf M3 Pro. MPS-Overhead, Dequantisierung, Optimierungen reduzieren Peak um 1,5 GB. Anweisungen für Entwickler.

SD 3.5 Medium auf M1: Optimierung auf 11,6 GB

Analyse von Speicherproblemen in Stable Diffusion 3.5 Medium auf Apple Silicon. Sequentielles Laden von T5 und DiT reduziert den Peak von 21 auf 11,6 GB. Code und Benchmarks für M1 16 GB.