Artículos por etiqueta: llm-inference

Apple M5 Chip: proceso de 3 nm, bloque neuronal de 128 núcleos y revolución de IA

Apple M5: proceso de 3 nm de TSMC, 128 núcleos del Neural Engine, memoria de copia cero y lanzamiento de LLM en una laptop. Descubra por qué el M5 es el ataque más agresivo contra NVIDIA e Intel. Lea los detalles.

Qwen 3.5 397B en iPhone 17 Pro: Flash-MoE

Ejecutando 397 mil millones de parámetros Qwen3.5 en iPhone 17 Pro con SSD y Flash-MoE. Velocidad 0.6 t/s, comparación con M3 Max. Detalles técnicos para desarrolladores.

Pila de producción vLLM: lanzamiento básico en K8s

Despliegue de vLLM en Kubernetes con Pila de producción. Configuraciones GPU/CPU, llamadas a herramientas, modelos multimodales. Configuraciones YAML y optimizaciones de memoria para devops intermedios/senior.