Artykuły według tagu: llm-inference

Chip Apple M5: proces 3 nm, 128-rdzeniowy blok neuronowy i rewolucja AI

Apple M5: proces 3 nm TSMC, 128 rdzeni Neural Engine, pamięć zero-copy i uruchamianie LLM na laptopie. Dowiedz się, dlaczego M5 to najbardziej agresywny atak na NVIDIA i Intel. Czytaj szczegóły.

Qwen 3.5 397B na iPhone 17 Pro: Flash-MoE

Uruchomienie 397 mld parametrów Qwen 3.5 na iPhone 17 Pro z SSD i Flash-MoE. Prędkość 0,6 t/s, porównanie z M3 Max. Szczegóły techniczne dla deweloperów.

vLLM Production Stack: podstawowe uruchomienie w K8s

Wdrożenie vLLM w Kubernetes z Production Stack. Ustawienia GPU/CPU, tool-calling, modele multimodalne. Konfiguracje YAML i optymalizacje pamięci dla middle/senior devops.