Články podle tagu: llama-cpp

Únik Claude Code: zdrojové kódy a vydání Gemma 4 Qwen

Rozbor úniku 512K řádků Claude Code, architektury harnessu, vydání Gemma 4 a Qwen 3.6-Plus. Benchmarky, migrace, lokální spuštění. Pro middle/senior dev — čtěte detaily a stavte své agenty

Spuštění MoE GPT-OSS-120B na 6 GB GPU až do 30 t/s

Zrychlujeme GPT-OSS-120B na slabém GPU s -cmoe a --fit. Efektivní využití RAM pro modely MoE. Návod pro vývojáře

llama.cpp: ASR v Gemma 4 a Qwen3

llama.cpp zintegroval rozpoznávání řeči Gemma 4 (E4B/E2B) a Qwen3. Spuštění na GPU, prompty, parametry pro stabilitu. Pokyny pro middle/senior dev.

Přístup k souborům v lokálním AI agentovi: nástroje

Implementace přístupu k souborům pro lokální AI agenta: permission gate, auto-verify, odstranění chyb KV cache. Technické detaily pro vývojáře. Prozkoumejte architekturu.

ruGPT3XL s kontextem 8k: sparse attention

Rozšíření ruGPT3XL na 8k tokenů prostřednictvím sparse attention a doladění. PPL 13.00 na gazeta, optimalizace Triton/SDPA ×1.85. Instrukce pro vývojáře.

Restaurace ruGPT-3 XL pro transformers

Zjistěte, jak konvertovat legacy ruGPT-3 XL do HF-formátu pro fine-tuning a inference. Struktura vah, vlastní třídy, benchmarky MERA. Návod pro vývojáře.