Články podle tagu: llm-inference

Čip Apple M5: 3nm proces, 128jádrový neuronový blok a AI revoluce

Apple M5: 3nm proces TSMC, 128 jader Neural Engine, zero-copy paměť a spuštění LLM na notebooku. Zjistěte, proč je M5 nejagresivnější útok na NVIDIA a Intel. Přečtěte si podrobnosti.

Qwen 3.5 397B na iPhone 17 Pro: Flash-MoE

Spuštění 397 miliard parametrů Qwen3.5 na iPhone 17 Pro s SSD a Flash-MoE. Rychlost 0,6 t/s, srovnání s M3 Max. Technické detaily pro vývojáře.

vLLM Production Stack: základní spuštění v K8s

Nasazení vLLM v Kubernetes s Production Stack. Nastavení GPU/CPU, tool-calling, multimodální modely. Konfigurace YAML a optimalizace paměti pro middle/senior devops.