Artikel nach Tag: llama-cpp

Claude Code Leck: Quellcode und Releases von Gemma 4 Qwen

Analyse des 512K-Zeilen-Claude-Code-Lecks, Harness-Architektur, Gemma 4- und Qwen 3.6-Plus-Releases. Benchmarks, Migrationen, lokaler Start. Für Middle-/Senior-Entwickler — lesen Sie die Details und bauen Sie Ihre eigenen Agents.

Ausführen von MoE GPT-OSS-120B auf 6 GB GPU bis zu 30 t/s

Beschleunigung von GPT-OSS-120B auf schwacher GPU mit -cmoe und --fit. Effiziente RAM-Nutzung für MoE-Modelle. Anleitungen für Entwickler.

llama.cpp: ASR in Gemma 4 und Qwen3

llama.cpp integrierte Spracherkennung Gemma 4 (E4B/E2B) und Qwen3. Start auf GPU, Prompts, Parameter für Stabilität. Anleitungen für Middle/Senior-Dev.

Dateizugriff im lokalen AI-Agent: Tools

Implementierung des Dateizugriffs für lokalen AI-Agent: permission gate, auto-verify, Behebung von KV-cache-Bugs. Technische Details für Entwickler. Studieren Sie die Architektur.

ruGPT3XL mit 8k Kontext: sparse attention

Erweiterung von ruGPT3XL auf 8k Tokens durch sparse attention und Feinabstimmung. PPL 13.00 auf gazeta, Triton/SDPA-Optimierung ×1.85. Anleitungen für Entwickler.

Wiederherstellung von ruGPT-3 XL für transformers

Erfahren Sie, wie Sie Legacy ruGPT-3 XL in HF-Format für Feinabstimmung und Inferenz konvertieren. Gewichtsstruktur, benutzerdefinierte Klassen, MERA-Benchmarks. Anleitungen für Entwickler.