Artículos por etiqueta: moe

NVIDIA Nemotron 3 Nano Omni: IA multimodal 9 veces más eficiente

NVIDIA presentó el modelo abierto Nemotron 3 Nano Omni, que combina video, audio y texto. Conozca la ganancia de eficiencia 9x y la arquitectura para agentes empresariales de IA.

Ejecutando MoE GPT-OSS-120B en GPU de 6 GB hasta 30 t/s

Acelerando GPT-OSS-120B en una GPU débil con -cmoe y --fit. Uso eficiente de RAM para modelos MoE. Instrucciones para desarrolladores.