Artykuły według tagu: llama-cpp

Wyciek Claude Code: kody źródłowe i wydania Gemma 4 Qwen

Analiza wycieku 512K linii Claude Code, architektury harnessu, wydań Gemma 4 i Qwen 3.6-Plus. Benchmarki, migracje, lokalny start. Dla middle/senior dev — czytaj szczegóły i buduj swoje agenty

Uruchomienie MoE GPT-OSS-120B na 6 GB GPU do 30 t/s

Przyspieszamy GPT-OSS-120B na słabym GPU z -cmoe i --fit. Efektywne wykorzystanie RAM dla modeli MoE. Instrukcja dla deweloperów.

llama.cpp: ASR w Gemma 4 i Qwen3

llama.cpp zintegrował rozpoznawanie mowy Gemma 4 (E4B/E2B) i Qwen3. Uruchamianie na GPU, prompty, parametry dla stabilności. Instrukcje dla middle/senior dev.

Dostęp do plików w lokalnym agencie AI: narzędzia

Realizacja dostępu do plików dla lokalnego agenta AI: permission gate, auto-verify, eliminacja błędów KV-cache. Szczegóły techniczne dla deweloperów. Zapoznaj się z architekturą.

ruGPT3XL z kontekstem 8k: sparse attention

Rozszerzenie ruGPT3XL do 8k tokenów poprzez sparse attention i dalsze trenowanie. PPL 13.00 na gazeta, optymalizacja Triton/SDPA ×1.85. Instrukcja dla deweloperów.

Restauracja ruGPT-3 XL dla transformers

Dowiedz się, jak konwertować legacy ruGPT-3 XL do formatu HF dla fine-tuning i inference. Struktura wag, niestandardowe klasy, benchmarki MERA. Instrukcja dla programistów.