NVIDIA veröffentlicht das Open-Source-Modell für intelligente Agenten 120B Nemotron 3 Super, das die maximale Durchsatzleistung um das Fünffache steigert

Gate News Nachrichten, am 12. März hat NVIDIA das Open-Source-Sprachmodell Nemotron 3 Super veröffentlicht, das für Multi-Agenten-Anwendungen entwickelt wurde. Das Modell verfügt über insgesamt 120 Milliarden Parameter, verwendet eine hybride Mamba-Transformer MoE-Architektur und aktiviert beim Inferenz nur 12 Milliarden Parameter pro Token. Die Kerntechnologie „Latent MoE“ komprimiert Token in einen niedrig-rangigen latenten Raum, bevor sie an Expertennetzwerke weitergeleitet werden, wodurch gleichzeitig vier Experten bei den Berechnungen aktiviert werden können. Die Inferenzdurchsatzrate wurde im Vergleich zur vorherigen Generation Nemotron Super um bis zu das Fünffache erhöht. Das Modell unterstützt native einen Kontextfenster von 1 Million Token, ideal für autonome Agenten, die längere Arbeitsabläufe aufrechterhalten müssen. Im PinchBench-Benchmark, der die Arbeitsbelastung von Agenten bewertet, erzielte Nemotron 3 Super 85,6 %, die höchste Punktzahl unter vergleichbaren Open-Source-Modellen. NVIDIA hat außerdem einen Trainingsdatensatz mit über 100 Billionen Token, 15 Reinforcement-Learning-Umgebungen und Evaluierungsverfahren open-sourced, unter der NVIDIA Nemotron Open Model License. Das Modell ist auf Plattformen wie Hugging Face, build.nvidia.com, Perplexity, OpenRouter verfügbar und kann über Cloud-Dienste wie Google Cloud, Oracle, AWS Bedrock und Azure bereitgestellt werden. Unternehmen wie Perplexity, CodeRabbit, Cadence, Dassault Systèmes und Siemens haben es bereits vorab eingesetzt.