Articles par tag: llm-inference

Puce Apple M5 : processus 3 nm, bloc neuronal 128 cœurs et révolution de l'IA

Apple M5 : processus TSMC 3 nm, 128 cœurs Neural Engine, mémoire zero-copy et lancement de LLM sur un ordinateur portable. Découvrez pourquoi le M5 est l'attaque la plus agressive contre NVIDIA et Intel. Lisez les détails.

Qwen 3.5 397B sur iPhone 17 Pro : Flash-MoE

Exécution de Qwen3.5 à 397 milliards de paramètres sur iPhone 17 Pro avec SSD et Flash-MoE. Vitesse 0.6 t/s, comparaison avec M3 Max. Détails techniques pour les développeurs.

vLLM Production Stack : lancement de base dans K8s

Déploiement de vLLM dans Kubernetes avec Production Stack. Paramètres GPU/CPU, tool-calling, modèles multimodaux. Configurations YAML et optimisations de mémoire pour devops middle/senior