Artikel nach Tag: moe

NVIDIA Nemotron 3 Nano Omni: Multimodale KI 9-mal effizienter

NVIDIA hat das offene Modell Nemotron 3 Nano Omni vorgestellt, das Video, Audio und Text kombiniert. Erfahren Sie mehr über den 9-fachen Effizienzgewinn und die Architektur für Enterprise-KI-Agenten.

Ausführen von MoE GPT-OSS-120B auf 6 GB GPU bis zu 30 t/s

Beschleunigung von GPT-OSS-120B auf schwacher GPU mit -cmoe und --fit. Effiziente RAM-Nutzung für MoE-Modelle. Anleitungen für Entwickler.