Articles par tag: llama-cpp

Fuite Claude Code : Code Source et Versions de Gemma 4 Qwen

Analyse de la fuite de 512K lignes Claude Code, architecture harness, versions de Gemma 4 et Qwen 3.6-Plus. Benchmarks, migrations, lancement local. Pour middle/senior dev — lisez les détails et construisez vos propres agents.

Exécution de MoE GPT-OSS-120B sur GPU 6 GB jusqu'à 30 t/s

Accélération de GPT-OSS-120B sur un GPU faible avec -cmoe et --fit. Utilisation efficace de la RAM pour les modèles MoE. Instructions pour les développeurs.

llama.cpp : ASR dans Gemma 4 et Qwen3

llama.cpp intègre la reconnaissance vocale Gemma 4 (E4B/E2B) et Qwen3. Lancement sur GPU, prompts, paramètres pour la stabilité. Instructions pour devs intermédiaires/seniors.

Accès aux fichiers dans l'agent IA local : outils

Implémentation de l'accès aux fichiers pour l'agent IA local : porte de permission, auto-vérification, correction des bogues KV-cache. Détails techniques pour les développeurs. Étudiez l'architecture.

ruGPT3XL avec contexte 8k : sparse attention

Extension de ruGPT3XL à 8k tokens via sparse attention et fine-tuning. PPL 13.00 sur gazeta, optimisation Triton/SDPA ×1.85. Instructions pour les développeurs.

Restauration de ruGPT-3 XL pour transformers

Apprenez à convertir l'ancien ruGPT-3 XL au format HF pour le fine-tuning et l'inférence. Structure des poids, classes personnalisées, benchmarks MERA. Instructions pour les développeurs.