Nemotron 3.5 Super VL: NVIDIA kündigt ein multimodales Modell mit 120 Milliarden Parametern an

Ein multimodales Modell für spezialisierte Agenten

NVIDIA hat Nemotron 3.5 Super VL als offenes, anpassbares Modell für Arbeitsabläufe angekündigt, die Schlussfolgern, visuelles Verständnis und Werkzeugnutzung verbinden. Laut der technischen Beschreibung des Unternehmens kann das Modell Text, Bilder, Dokumente und Videos verarbeiten. Damit sollen bestimmte Aufgaben ohne getrennte Sprach- und Bildverarbeitungsmodelle möglich sein.

Das Modell richtet sich an Agenten, die mehrstufige Abläufe bewältigen sollen, statt nur eine einzelne Frage zu beantworten: etwa ein Dokument zu lesen, Informationen abzugleichen und Werkzeuge einzusetzen. NVIDIA sieht außerdem vor, das Modell mit eigenen Daten, Werkzeugen und Richtlinien anzupassen. Das beschreibt den vorgesehenen Einsatz und die vom Unternehmen dargestellten Fähigkeiten; es belegt nicht, dass das System in allen Branchen und Konfigurationen gleich gut funktioniert.

Die verfügbaren Belege haben eine unterschiedliche Reichweite. Die Unternehmensankündigung bestätigt die Vorstellung des Modells und ordnet es in die Nemotron-Familie ein. Der technische Beitrag liefert Kennzahlen und Evaluierungsdetails, stammt aber ebenfalls von NVIDIA und ist keine unabhängige Replikation. Die Ergebnisse sind daher als vom Hersteller berichtete Messwerte zu verstehen, nicht als allgemeine Leistungsgarantie.

MoE-Architektur: Gesamtkapazität und aktive Berechnung

Nemotron 3.5 Super VL verfügt NVIDIA zufolge über insgesamt 120 Milliarden Parameter und aktiviert pro Token 12 Milliarden. Bei einer Mixture-of-Experts-Architektur (MoE) können unterschiedliche spezialisierte Modellbereiche an der Verarbeitung einer Eingabe beteiligt sein. Die Zahl der aktiven Parameter gibt an, welcher Teil des Modells bei jedem Schritt genutzt wird. Sie bedeutet nicht, dass insgesamt nur 12 Milliarden Parameter gespeichert werden müssen.

Diese Unterscheidung kann helfen, Modellkapazität und Rechenaufwand auszubalancieren: Das Modell behält einen umfangreichen Parametersatz, nutzt aber für jedes Token nur einen Teil davon. Die Zahl der aktiven Parameter allein bestimmt jedoch weder den tatsächlichen Speicherbedarf noch die Geschwindigkeit. Auch numerische Präzision, Kontextlänge, Implementierung, Batch-Größe und Hardware spielen eine Rolle.

Der technische Beitrag beschreibt außerdem verschiedene Inferenztechniken: LiLiCorr-Spekulativdecodierung, Vorhersage mehrerer Tokens, Kontextwiederverwendung und Quantisierung. Diese Optimierungen sind voneinander zu unterscheiden; ihre Wirkung hängt von der jeweiligen Arbeitslast ab. Verbesserungen, die bei der Gesamtbewertung des Systems auftreten, lassen sich nicht ohne Weiteres allein der MoE-Architektur zuschreiben.

Benchmarks: nützliche Ergebnisse, aber an konkrete Bedingungen gebunden

NVIDIA gibt an, dass das Modell bei agentischen Aufgaben bis zu fünfmal mehr Durchsatz als andere offene Modelle seiner Größenklasse erzielt. Der technische Beitrag beschreibt außerdem Ergebnisse aus Agententests, dem Verständnis von Diagrammen und dem lokalen Betrieb auf DGX Spark. Diese Kennzahlen sind nicht gleichbedeutend: Der Durchsatz misst die Token-Ausgabe unter bestimmten Bedingungen. Die Dauer einer abgeschlossenen Aufgabe hängt zusätzlich von den benötigten Schritten, Werkzeugaufrufen und Tokens ab.

Für Hermes Bench nennt der technische Beitrag 63,44 Prozent für Nemotron 3.5 Super VL und 56,33 Prozent für Nemotron 3 Ultra. Bei den Verhaltensbewertungen von LangChain werden 87,05 beziehungsweise 84,3 Prozent angegeben. Diese Zahlen beziehen sich laut Quelle auf die jeweiligen Tests. Sie belegen weder eine unabhängige Bewertung noch lassen sie sich auf sämtliche Agenten, Modelle oder Datensätze übertragen.

Für das Verständnis von Diagrammen berichtet NVIDIA bei CharXiv von 80,8 Prozent und mit Python-Code-Interpretation von 84 Prozent. Der Unterschied zeigt, dass das Ergebnis vom Evaluierungsverfahren abhängen kann. Um zu entscheiden, ob das Modell für einen konkreten Einsatz geeignet ist, sollte der Test mit eigenen Dokumenten, Werkzeugen, Erfolgskriterien und Zeitlimits wiederholt werden.

DGX Spark, NVFP4 und Kosten: Was sich noch nicht vergleichen lässt

Laut technischer Dokumentation wurde Nemotron 3.5 Super VL für den lokalen Betrieb auf NVIDIA DGX Spark optimiert. Außerdem wird eine unabhängige Bewertung durch EXO Labs zum Verhältnis von Genauigkeit und Aufgabenlaufzeit aufgeführt. Die bereitgestellten Informationen enthalten jedoch keine vollständige, vergleichbare Tabelle zu Latenz und Durchsatz gegenüber Bolt 74B-A9B oder Bolt E4B. Ebenso fehlen einheitliche Messungen des Stromverbrauchs auf DGX Spark, RTX 6000 oder RTX 8000.

Daher lässt sich nicht zuverlässig angeben, was eine Aufgabe auf diesen GPUs kosten würde oder welches Modell in einer bestimmten Installation schneller wäre. Das Ergebnis hängt unter anderem von der genauen Hardware, dem Gewichtsformat, der Inferenz-Engine, der Eingabegröße, der gleichzeitigen Nutzung und der Definition eines abgeschlossenen Auftrags ab. Die Ankündigung der Bolt-Modelle ist für sich genommen kein Leistungsvergleich mit Super VL.

NVIDIA beschreibt für die Blackwell-Architektur ein NVFP4-Verfahren, bei dem Gewichte und Aktivierungen auf vier Bit quantisiert werden. Eine quantisierungsbewusste Destillation soll dabei helfen, die Genauigkeit gegenüber dem BF16-Modell zu erhalten. NVIDIA zufolge kann derselbe Checkpoint auch auf Plattformen ohne Blackwell mit Vier-Bit-Gewichten und 16-Bit-Aktivierungen laufen. Das ist eine Beschreibung von Methode und Kompatibilität. Die verfügbaren Quellen enthalten keine unabhängige Messung unter einer gemeinsamen Arbeitslast, die den Einfluss auf Genauigkeit und Energieverbrauch quantifiziert.

Kompatibilität und mögliche industrielle Anwendungen

Für Anpassung und Bereitstellung des Modells stellt NVIDIA eigene Werkzeuge wie NeMo, NVIDIA NIM und Dynamo vor. In der technischen Dokumentation werden außerdem zahlreiche Plattformen und Werkzeuge aus dem Ökosystem genannt, darunter vLLM, SGLang, Ollama und LM Studio. Die Nennung eines Anbieters oder Werkzeugs in einer Partner- oder Toolübersicht belegt nicht, dass sämtliche Funktionen, Formate und Optimierungen in allen Versionen verfügbar sind. Vor einer Bereitstellung sollte die Unterstützung für den konkreten Checkpoint und das jeweilige Backend geprüft werden.

Zu den beschriebenen möglichen Einsatzbereichen zählen Dokumentenverarbeitung, Videoanalyse, Webrecherche, Cybersicherheit und Programmierunterstützung. Das sind Anwendungsbeispiele, keine garantierten Ergebnisse. In jedem Fall müssen auch der Umgang mit sensiblen Daten, die Zuverlässigkeit der Antworten, Berechtigungen für Werkzeugzugriffe und die Fehlerbehandlung bewertet werden.

Die Dokumentation erwähnt Anpassungen für spezialisierte Arbeitsabläufe, darunter Finanzaufgaben und die Analyse von Sicherheitsbedrohungen. Die konkret berichteten Verbesserungen beziehen sich auf bestimmte Konfigurationen und nachträgliche Anpassungen; sie sind keine automatische Eigenschaft des Basismodells. Für den industriellen Einsatz sollte die Validierung deshalb eigene Daten sowie Sicherheits-, Qualitäts- und Kostenkriterien einbeziehen.

Fazit: vielversprechende Kapazität, aber begrenzte Beleglage

Nemotron 3.5 Super VL verbindet insgesamt 120 Milliarden Parameter mit 12 Milliarden aktiven Parametern pro Token und einem multimodalen Design für Agenten. Die technische Dokumentation von NVIDIA beschreibt Verfahren zur Beschleunigung der Inferenz und Ergebnisse aus bestimmten Benchmarks. Außerdem nennt sie den lokalen Betrieb auf DGX Spark und Möglichkeiten zur Anpassung.

Eine vorsichtige Schlussfolgerung lautet: Das Modell ist eine Evaluation wert, wenn Text, Dokumente oder Videos mit Schlussfolgern und Werkzeugnutzung kombiniert werden sollen. Die vorliegenden Belege reichen jedoch nicht aus, um zu behaupten, das Modell sei allgemein das schnellste, verbrauche weniger Energie als bestimmte Alternativen oder habe auf RTX 6000, RTX 8000 oder DGX Spark feststehende Kosten. Auch ein vollständiger, einheitlicher Vergleich mit Bolt 74B-A9B und Bolt E4B liegt nicht vor.

Wer Systeme vergleicht, sollte den gesamten Arbeitsablauf messen und nicht nur Tokens pro Sekunde: Genauigkeit, Ende-zu-Ende-Latenz, Energieverbrauch, Kosten, Stabilität und tatsächliche Kompatibilität. Architektur und angekündigte Kennzahlen liefern Hypothesen. Ob sie zutreffen, zeigt erst ein Test mit den eigenen Daten und der eigenen Hardware.

Weiter entdecken

Korrekturen und Transparenz

Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.