按标签查看文章: apple-silicon

代码本地 LLM：隐私无速度损失

如何选择和设置用于代码生成的本地 LLM。格式比较、Apple Silicon 优化、与代理集成。保持数据隐私而不减慢工作流程。

FLUX.2-dev GGUF Q4_K_M：在 Apple Silicon 上占用 29 GB VRAM

FLUX.2-dev GGUF 模型在 M3 Pro 上 29 GB VRAM 消耗分解。MPS-overhead、去量化、优化将峰值降低 1.5 GB。开发者指南。

SD 3.5 Medium 在 M1 上：优化至 11.6 GB

Apple Silicon 上 Stable Diffusion 3.5 Medium 的内存问题分析。T5 和 DiT 的顺序加载将峰值从 21 GB 降至 11.6 GB。适用于 M1 16 GB 的代码和基准测试。