Uso primario dichiarato o dedotto con cautela dalla documentazione ufficiale.
N
NVIDIA / nvidia/nemotron-3.5-bolt-e4b
Nemotron 3.5 Bolt E4B
Modello compatto di NVIDIA pubblicato il 23 ottobre 2026, sottoposto a post-addestramento a partire da Gemma-4-E4B-it. Ha circa 8 miliardi di parametri totali e 4 miliardi effettivi; E4B non indica un MoE con quattro miliardi di parametri attivi. Raggruppiamo BF16 e GGUF Q4_K_M in una scheda, con risultati separati per precisione. La modalità documentata è da testo a testo: essere destinato agli assistenti vocali non lo rende un sistema di riconoscimento o sintesi audio.
01 / RIEPILOGO
L'essenziale
Capacità di input massima quando pubblicata dalla fonte.
Limite massimo di generazione documentato.
Canali di disponibilità verificati.
Famiglia funzionale principale e specialità verificate.
Condizioni dichiarate per API, pesi o distribuzione autonoma.
02 / SCHEDA TECNICA
Limiti e integrazione
| ID API | nvidia/nemotron-3.5-bolt-e4b |
|---|---|
| Tipo di modello | Testo e ragionamento · Codice |
| Modalità di accesso | API e pesi aperti |
| Licenza | OpenMDW 1.1; base Gemma 4 con Apache 2.0 |
| Distribuzione | API o deployment autonomo |
| Rilascio | 23 OCT 2026 |
| Cutoff della conoscenza | Post-addestramento: maggio 2026 |
| Entrata | Testo |
| Uscita | Testo |
| Finestra di contesto | 65.536 token condivisi tra input e output |
| rendimento massimo | La scheda indica fino a 64K; non sono 64K aggiuntivi al contesto |
| Ragionamento | enable_thinking e conversational_mode; budget configurabile |
| Strumenti pubblicati | Funzionalità · Strumenti su più turni |
| Uscite strutturate | Non pubblicato |
| Elaborazione batch | Non pubblicato |
| Cache dei prompt | Non pubblicato |
| Fine-tuning | Non pubblicato |
| Piattaforme verificate | NVIDIA Build · Hugging Face · vLLM · llama.cpp |
Conversazioni, personaggi interattivi e assistenti per dispositivi con chiamate a strumenti. La variante BF16 consente ricerca, valutazione e adattamento con vLLM; la distribuzione da 4 GB privilegia l’esecuzione locale con llama.cpp. Ragionamento e modalità conversazionale si controllano tramite il template di chat. NVIDIA raccomanda temperatura 1,0 e top-p 0,95. L’agente ospitante deve convalidare argomenti, permessi e risposte degli strumenti prima di eseguire azioni.
La configurazione BF16 fissa 65.536 posizioni e la ricetta GGUF usa lo stesso contesto. La scheda riassume input e output come fino a 64K ciascuno; non dimostra una finestra combinata da 128K. NVIDIA Build arrotonda a 66K. I componenti ereditati per immagini e audio in config.json e gli esempi automatici di Hugging Face non provano capacità multimodali convalidate per questa versione. La dicitura 4 GB non garantisce la memoria totale al contesto massimo: occorre aggiungere runtime e cache KV.
03 / CAPACITÀ
Cosa può fare
Orientamento
Conversazioni, personaggi interattivi e assistenti per dispositivi con chiamate a strumenti. La variante BF16 consente ricerca, valutazione e adattamento con vLLM; la distribuzione da 4 GB privilegia l’esecuzione locale con llama.cpp. Ragionamento e modalità conversazionale si controllano tramite il template di chat. NVIDIA raccomanda temperatura 1,0 e top-p 0,95. L’agente ospitante deve convalidare argomenti, permessi e risposte degli strumenti prima di eseguire azioni.
Contesto
65.536 token condivisi tra input e output · La scheda indica fino a 64K; non sono 64K aggiuntivi al contesto
Strumenti e integrazione
Funzioni · Strumenti su più turni
Accesso
NVIDIA Build · Hugging Face · BF16 / Q4_K_M
Modalità di input
Testo
04 / PREZZI
Costo documentato
| Concetto | Di valore | Unità/condizione |
|---|---|---|
| Input standard | Endpoint gratuito per prototipi; tariffa commerciale non pubblicata | Tariffa API standard |
| Input in cache | Non pubblicato | Lettura di prefissi riutilizzati |
| Scrittura o archiviazione della cache | Non pubblicato | La condizione varia in base al fornitore |
| Output standard | Endpoint gratuito per prototipi; tariffa commerciale non pubblicata | Può includere token di ragionamento |
| Input batch | Non pubblicato | Elaborazione asincrona |
| Output batch | Non pubblicato | Elaborazione asincrona |
NVIDIA Build offre un endpoint gratuito per la prototipazione con identificatore nvidia/nemotron-3.5-bolt-e4b. Non sono stati verificati una tariffa commerciale, una quota universale o l’accesso gratuito permanente; i costi numerici restano vuoti. I pesi scaricabili richiedono un’infrastruttura propria. Il modello usa OpenMDW 1.1 e la base Gemma 4 dichiara Apache 2.0. I draft model DFlash sono componenti opzionali di decodifica speculativa, non modelli di conversazione indipendenti né una garanzia di accelerazione su qualsiasi dispositivo.
i I prezzi cambiano e possono dipendere dal livello, dalla regione o dalla durata del contesto. Controlla la fonte prima di prendere una decisione.
05 / VALUTAZIONI
Come leggere i risultati
“
NVIDIA pubblica un confronto con NeMo Gym che separa BF16 e Q4_K_M. Registriamo BFCL-v3, ToolSandbox e RULER a 64K: valutano rispettivamente chiamate a funzioni, strumenti con stato e recupero dal contesto; non misurano la stessa cosa. I test usano il ragionamento tranne RoleBench, EQ-Bench v3 e RULER. Non sono misure di Inferama né prove di sicurezza. La precisione può cambiare il risultato in entrambe le direzioni; conserva checkpoint, template, campionamento, hardware e versione del valutatore per riprodurli.
| Benchmark | Risultato | Metrica | Fonte |
|---|---|---|---|
| BFCL-v3 | BF16: 68,51 % · Q4_K_M: 67,31 % | Più alto è meglio | Vedi fonte ↗ |
| ToolSandbox | BF16: 68,77 % · Q4_K_M: 74,13 % | Più alto è meglio | Vedi fonte ↗ |
| RULER (64K) | BF16: 86,99 % · Q4_K_M: 85,76 % | Più alto è meglio | Vedi fonte ↗ |
Inferama evidenzia un "miglior risultato" solo quando la metrica, il set di test, la configurazione e la data consentono un confronto equivalente. I dati del fornitore sono presentati come affermazioni provenienti dalla propria fonte.
06 / VERSIONI
Cronologia
Bolt E4B · BF16 / Q4_K_M
Pesi pubblicati ed endpoint di prototipazione disponibile; varianti raggruppate senza schede duplicate.
07 / FONTI
Tracciabilità
SCHEDA TECNICABolt E4B Q4_K_M · scheda a revisione fissatahuggingface.co↗
SCHEDA TECNICABolt E4B BF16 · scheda a revisione fissatahuggingface.co↗
CONFIGURAZIONEConfigurazione BF16 e contestohuggingface.co↗
APINVIDIA Build · endpoint e identificatorebuild.nvidia.com↗
LANCIOAnnuncio NVIDIA e data di disponibilitàblogs.nvidia.com↗
LICENZAOpenMDW 1.1openmdw.ai↗