Artykuły według tagu: apple-silicon

Lokalne LLM dla kodu: prywatność bez utraty prędkości

Jak wybrać i skonfigurować lokalne LLM do generowania kodu. Porównanie formatów, optymalizacja pod Apple Silicon, integracja z agentami. Zachowuj prywatność danych bez spowalniania workflow.

FLUX.2-dev GGUF Q4_K_M: 29 GB VRAM na Apple Silicon

Analiza zużycia 29 GB VRAM przez model FLUX.2-dev GGUF na M3 Pro. MPS-overhead, dekwantyzacja, optymalizacje obniżają szczyt o 1,5 GB. Instrukcje dla deweloperów.

SD 3.5 Medium na M1: optymalizacja do 11.6 GB

Analiza problemów z pamięcią Stable Diffusion 3.5 Medium na Apple Silicon. Sekwencyjne ładowanie T5 i DiT obniża pik z 21 do 11.6 GB. Kod i benchmarki dla M1 16 GB.