按标签查看文章: llama-cpp

Claude Code 泄露：Gemma 4 Qwen 的源代码和发布版

512K 行 Claude Code 泄露分析，利用架构，Gemma 4 和 Qwen 3.6-Plus 发布。基准测试、迁移、本地启动。针对中高级开发者——阅读详情并构建自己的代理。

在 6 GB GPU 上运行 MoE GPT-OSS-120B，最高 30 t/s

使用 -cmoe 和 --fit 在弱 GPU 上加速 GPT-OSS-120B。MoE 模型的高效 RAM 使用。开发者指南。

llama.cpp：Gemma 4 和 Qwen3 中的 ASR

llama.cpp 集成了 Gemma 4 (E4B/E2B) 和 Qwen3 的语音识别。在 GPU 上启动、提示词、稳定性参数。中高级开发者的说明。

本地 AI 代理中的文件访问：工具

本地 AI 代理文件访问的实现：权限关卡、自动验证、修复 KV-cache 错误。为开发者提供的的技术细节。研究架构。

ruGPT3XL 带 8k 上下文：稀疏注意力

通过稀疏注意力和微调将 ruGPT3XL 扩展到 8k 令牌。在 gazeta 上 PPL 13.00，Triton/SDPA 优化 ×1.85。开发者指南。

为 transformers 恢复 ruGPT-3 XL

了解如何将旧版 ruGPT-3 XL 转换为 HF 格式，用于微调和推理。权重结构、自定义类、MERA 基准。开发者指南。