Artículos por etiqueta: llama-cpp

Fuga de Claude Code: Código Fuente y Lanzamientos de Gemma 4 Qwen

Análisis de la fuga de 512K líneas de Claude Code, arquitectura harness, lanzamientos de Gemma 4 y Qwen 3.6-Plus. Benchmarks, migraciones, lanzamiento local. Para dev intermedio/senior — lee los detalles y construye tus propios agents.

Ejecutando MoE GPT-OSS-120B en GPU de 6 GB hasta 30 t/s

Acelerando GPT-OSS-120B en una GPU débil con -cmoe y --fit. Uso eficiente de RAM para modelos MoE. Instrucciones para desarrolladores.

llama.cpp: ASR en Gemma 4 y Qwen3

llama.cpp integra reconocimiento de voz Gemma 4 (E4B/E2B) y Qwen3. Lanzamiento en GPU, prompts, parámetros para estabilidad. Instrucciones para desarrollador intermedio/senior.

Acceso a archivos en agente IA local: herramientas

Implementación del acceso a archivos para agente IA local: puerta de permisos, verificación automática, corrección de errores en KV-cache. Detalles técnicos para desarrolladores. Estudia la arquitectura.

ruGPT3XL con contexto de 8k: atención dispersa

Expansión de ruGPT3XL a 8k tokens mediante atención dispersa y ajuste fino. PPL 13.00 en gazeta, optimización Triton/SDPA ×1.85. Instrucciones para desarrolladores.

Restauración de ruGPT-3 XL para transformers

Aprende cómo convertir ruGPT-3 XL heredado al formato HF para ajuste fino e inferencia. Estructura de pesos, clases personalizadas, benchmarks MERA. Instrucciones para desarrolladores.