Nemotron 3.5 Super VL: NVIDIA annuncia un modello multimodale da 120 miliardi di parametri

Un modello multimodale pensato per agenti specializzati

NVIDIA ha annunciato Nemotron 3.5 Super VL come modello aperto e personalizzabile per flussi di lavoro che combinano ragionamento, comprensione visiva e uso di strumenti. Secondo la descrizione tecnica dell’azienda, può elaborare testo, immagini, documenti e video all’interno di un unico modello, con l’obiettivo di evitare di suddividere alcune attività tra un modello linguistico e uno di visione.

La proposta è rivolta ad agenti che devono completare sequenze di operazioni, non soltanto rispondere a una domanda isolata: per esempio, leggere un documento, verificare dati e usare strumenti. NVIDIA prevede inoltre che il modello possa essere adattato con dati, strumenti e policy specifici. Si tratta degli impieghi previsti e delle capacità presentate dall’azienda, non di una dimostrazione che il sistema funzioni altrettanto bene in ogni settore o configurazione.

Le prove disponibili hanno una portata limitata. L’annuncio aziendale conferma il lancio e colloca il modello nella famiglia Nemotron; l’articolo tecnico fornisce cifre e dettagli sulle valutazioni, ma è stato pubblicato da NVIDIA e non costituisce una replica indipendente. I risultati vanno quindi letti come misurazioni dichiarate dal produttore, non come una garanzia generale di prestazioni.

Architettura MoE: capacità totale e calcolo attivo

Nemotron 3.5 Super VL ha 120 miliardi di parametri totali e ne attiva 12 miliardi per token, secondo la documentazione tecnica di NVIDIA. In un’architettura a miscela di esperti, o MoE, diverse parti specializzate del modello possono partecipare all’elaborazione di un input. Il numero di parametri attivi indica quanta parte del modello viene utilizzata a ogni passaggio, non che il sistema contenga soltanto 12 miliardi di parametri.

Questa distinzione può contribuire a bilanciare capacità e calcolo: il modello conserva un ampio insieme di parametri, ma ne attiva una parte durante l’elaborazione di ciascun token. Tuttavia, il numero di parametri attivi non determina da solo i requisiti effettivi di memoria né la velocità. Contano anche la precisione numerica, la lunghezza del contesto, l’implementazione, la dimensione del batch e l’hardware.

La documentazione tecnica descrive inoltre una combinazione di tecniche d’inferenza: decoding speculativo LiLiCorr, predizione di più token, riutilizzo del contesto e quantizzazione. Sono ottimizzazioni distinte e il loro effetto dipende dal carico di lavoro. Non è quindi corretto attribuire all’architettura MoE, da sola, qualsiasi miglioramento rilevato nella valutazione complessiva del sistema.

Benchmark: risultati utili, ma legati alla configurazione

NVIDIA afferma che il modello raggiunge un throughput fino a cinque volte superiore a quello di altri modelli aperti della stessa categoria nei compiti agentici. L’articolo tecnico descrive anche risultati in valutazioni di agenti, comprensione di grafici ed esecuzione locale su DGX Spark. Queste metriche non sono equivalenti: il throughput misura la produzione di token in determinate condizioni, mentre il completamento di un’attività dipende anche dai passaggi, dalle chiamate agli strumenti e dai token utilizzati.

Per Hermes Bench, l’articolo tecnico riporta il 63,44% per Nemotron 3.5 Super VL e il 56,33% per Nemotron 3 Ultra. Nelle valutazioni comportamentali di LangChain indica rispettivamente l’87,05% e l’84,3%. Le cifre sono attribuite a quei test specifici: non dimostrano che le valutazioni siano indipendenti e non si possono estendere a tutti gli agenti, ai modelli o ai dataset.

Per la comprensione dei grafici, NVIDIA riporta l’80,8% su CharXiv e l’84% usando l’interpretazione del codice Python. La differenza mostra che il risultato può dipendere dal metodo di valutazione. Per stabilire se il modello sia adatto a un impiego reale, è opportuno ripetere le prove con documenti, strumenti, criteri di successo e limiti temporali propri.

DGX Spark, NVFP4 e costi: cosa non è ancora possibile confrontare

La documentazione tecnica afferma che Nemotron 3.5 Super VL è stato ottimizzato per l’esecuzione locale su NVIDIA DGX Spark e riporta una valutazione indipendente di EXO Labs sull’equilibrio tra accuratezza e tempo necessario a completare un’attività. Tuttavia, i dati forniti non includono una tabella completa e comparabile di latenza e throughput rispetto a Bolt 74B-A9B o Bolt E4B, né misurazioni omogenee del consumo energetico su DGX Spark, RTX 6000 o RTX 8000.

Non è quindi possibile stabilire con rigore quanto costerebbe ciascuna attività su queste GPU o quale modello sarebbe più veloce in una specifica installazione. Il risultato dipende dall’hardware esatto, dal formato dei pesi, dal motore d’inferenza, dalla dimensione dell’input, dalla concorrenza e da come viene definito il completamento dell’attività. L’annuncio dei modelli Bolt non costituisce, di per sé, un confronto prestazionale con Super VL.

NVIDIA descrive una ricetta NVFP4 per l’architettura Blackwell che quantizza pesi e attivazioni a quattro bit, e afferma che la distillazione consapevole della quantizzazione mira a preservare l’accuratezza rispetto al modello BF16. Indica inoltre che lo stesso checkpoint può essere eseguito su piattaforme non Blackwell con pesi a quattro bit e attivazioni a 16 bit. È una descrizione di compatibilità e di metodo; le fonti disponibili non forniscono una misurazione indipendente, a parità di carico di lavoro, che quantifichi le variazioni di accuratezza o consumo energetico.

Compatibilità e possibili applicazioni industriali

NVIDIA presenta strumenti proprietari per personalizzare e distribuire il modello, tra cui NeMo, NVIDIA NIM e Dynamo. La documentazione tecnica cita anche diverse piattaforme e strumenti dell’ecosistema, inclusi vLLM, SGLang, Ollama e LM Studio. La presenza di un nome in un elenco di partner o strumenti non dimostra che tutte le funzioni, i formati e le ottimizzazioni siano disponibili in ogni versione: prima della distribuzione occorre verificare il supporto specifico per il checkpoint e il backend.

Tra gli impieghi descritti figurano l’intelligenza documentale, l’analisi video, la ricerca sul web, la cybersecurity e l’assistenza alle attività di programmazione. Sono possibili applicazioni, non risultati garantiti. In ogni caso è importante valutare anche la gestione dei dati sensibili, l’affidabilità delle risposte, le policy di accesso agli strumenti e il recupero dagli errori.

La documentazione menziona adattamenti per flussi di lavoro specializzati, comprese attività finanziarie e di analisi delle minacce. I miglioramenti comunicati riguardano configurazioni specifiche e fasi di post-training: non sono proprietà automatiche del modello di base. Per un impiego industriale, la validazione deve includere dati propri e misure di sicurezza, qualità e costo.

Conclusione: capacità promettenti, prove ancora circoscritte

Nemotron 3.5 Super VL combina 120 miliardi di parametri totali con 12 miliardi attivi per token e un design multimodale orientato agli agenti. La documentazione di NVIDIA descrive tecniche per accelerare l’inferenza e presenta risultati ottenuti in benchmark specifici; indica anche la possibilità di esecuzione locale su DGX Spark e di personalizzazione.

La conclusione prudente è che il modello merita di essere valutato nei compiti in cui testo, documenti o video devono essere combinati con ragionamento e strumenti. Le prove fornite, però, non permettono di affermare che sia il più veloce in generale, che consumi meno energia di alternative specifiche o che abbia un costo definito su RTX 6000, RTX 8000 o DGX Spark. Mancano anche confronti specifici e omogenei con Bolt 74B-A9B e Bolt E4B.

Per chi deve confrontare sistemi, la scelta pratica è misurare l’intero compito, non soltanto i token al secondo: accuratezza, latenza end-to-end, consumo, costo, stabilità e compatibilità effettiva. L’architettura e le cifre annunciate aiutano a formulare ipotesi; sono i test con dati e hardware propri a stabilire se siano fondate.

Continua a esplorare

Correzioni e trasparenza

Se trovi un dato errato o non aggiornato, inviaci la pagina e la fonte da verificare.