Primäre Verwendung angegeben oder vorsichtig aus offizieller Dokumentation abgeleitet.
N
NVIDIA / nvidia/nemotron-3.5-bolt-e4b
Nemotron 3.5 Bolt E4B
Kompaktes NVIDIA-Modell, veröffentlicht am 23. Oktober 2026 und auf Grundlage von Gemma-4-E4B-it nachtrainiert. Es hat etwa 8 Milliarden Parameter insgesamt und 4 Milliarden effektive Parameter; E4B bedeutet kein MoE mit vier Milliarden aktiven Parametern. BF16 und GGUF Q4_K_M werden in einem Profil mit getrennten Ergebnissen nach Präzision zusammengefasst. Dokumentiert ist Text als Ein- und Ausgabe: Die Ausrichtung auf Sprachassistenten macht es nicht zu einem System für Audioerkennung oder Sprachsynthese.
01 / ZUSAMMENFASSUNG
Das Wesentliche
Maximale Eingabekapazität bei Veröffentlichung durch die Quelle.
Dokumentierte maximale Erzeugungsgrenze.
Verifizierte Verfügbarkeitskanäle.
Primäre Funktionsfamilie und verifizierte Spezialisierungen.
Deklarierte Bedingungen für API, Gewichte oder Self-Hosting.
02 / TECHNISCHES DATENBLATT
Limits und Integration
| API-ID | nvidia/nemotron-3.5-bolt-e4b |
|---|---|
| Modelltyp | Text und Begründung · Code |
| Zugangsmodell | API und offene Gewichte |
| Lizenz | OpenMDW 1.1; Gemma-4-Basis unter Apache 2.0 |
| Einsatz | API oder selbst gehostete Bereitstellung |
| Veröffentlichung | 23 OCT 2026 |
| Wissensstichtag | Nachtraining: Mai 2026 |
| Eingang | Text |
| Ausfahrt | Text |
| Kontextfenster | 65.536 Tokens gemeinsam für Eingabe und Ausgabe |
| maximale Leistung | Die Modellkarte nennt bis zu 64K; das sind keine zusätzlichen 64K über das Kontextfenster hinaus |
| Schlussfolgern | enable_thinking und conversational_mode; konfigurierbares Budget |
| Veröffentlichte Tools | Funktionen · Werkzeuge über mehrere Gesprächsrunden |
| Strukturierte Ausflüge | Nicht veröffentlicht |
| Stapelverarbeitung | Nicht veröffentlicht |
| Prompt-Cache | Nicht veröffentlicht |
| Feinabstimmung | Nicht veröffentlicht |
| Verifizierte Plattformen | NVIDIA Build · Hugging Face · vLLM · llama.cpp |
Gespräche, interaktive Figuren und Geräteassistenten mit Werkzeugaufrufen. Die BF16-Variante ermöglicht Forschung, Evaluation und Anpassung mit vLLM; die 4-GB-Distribution ist auf lokalen Einsatz mit llama.cpp ausgerichtet. Denkmodus und Gesprächsmodus werden über das Chat-Template gesteuert. NVIDIA empfiehlt Temperatur 1,0 und top-p 0,95. Der ausführende Agent muss Argumente, Berechtigungen und Werkzeugantworten vor Aktionen prüfen.
Die BF16-Konfiguration setzt 65.536 Positionen, und die GGUF-Anleitung nutzt dasselbe Kontextfenster. Die Modellkarte nennt jeweils bis zu 64K für Eingabe und Ausgabe; ein gemeinsames Fenster von 128K ist damit nicht belegt. NVIDIA Build rundet auf 66K. Geerbte Bild- und Audiokomponenten in config.json sowie automatische Hugging-Face-Beispiele belegen keine validierten multimodalen Fähigkeiten dieser Veröffentlichung. Die Bezeichnung 4 GB garantiert nicht den gesamten Speicherbedarf bei maximalem Kontext: Laufzeitumgebung und KV-Cache kommen hinzu.
03 / FÄHIGKEITEN
Was es kann
Orientierung
Gespräche, interaktive Figuren und Geräteassistenten mit Werkzeugaufrufen. Die BF16-Variante ermöglicht Forschung, Evaluation und Anpassung mit vLLM; die 4-GB-Distribution ist auf lokalen Einsatz mit llama.cpp ausgerichtet. Denkmodus und Gesprächsmodus werden über das Chat-Template gesteuert. NVIDIA empfiehlt Temperatur 1,0 und top-p 0,95. Der ausführende Agent muss Argumente, Berechtigungen und Werkzeugantworten vor Aktionen prüfen.
Kontext
65.536 Tokens gemeinsam für Eingabe und Ausgabe · Die Modellkarte nennt bis zu 64K; das sind keine zusätzlichen 64K über das Kontextfenster hinaus
Tools und Integration
Funktionen · Werkzeuge über mehrere Gesprächsrunden
Zugang
NVIDIA Build · Hugging Face · BF16 / Q4_K_M
Eingabemodalitäten
Text
04 / PREISE
Dokumentierte Kosten
| Konzept | Wert | Einheit/Zustand |
|---|---|---|
| Standardeingabe | Kostenloser Prototyping-Endpunkt; kommerzieller Tarif nicht veröffentlicht | Standardtarif der API |
| Eingabe aus dem Cache | Nicht veröffentlicht | Lesen wiederverwendeter Präfixe |
| Schreiben oder Speichern im Cache | Nicht veröffentlicht | Die Bedingung variiert je nach Anbieter |
| Standardausgabe | Kostenloser Prototyping-Endpunkt; kommerzieller Tarif nicht veröffentlicht | Kann Reasoning-Tokens enthalten |
| Batch-Eingabe | Nicht veröffentlicht | Asynchrone Verarbeitung |
| Batch-Ausgabe | Nicht veröffentlicht | Asynchrone Verarbeitung |
NVIDIA Build bietet einen kostenlosen Prototyping-Endpunkt mit der Kennung nvidia/nemotron-3.5-bolt-e4b. Ein kommerzieller Tarif, ein allgemeines Kontingent oder dauerhaft kostenloser Zugang wurde nicht verifiziert; numerische Kosten bleiben leer. Herunterladbare Gewichte erfordern eigene Infrastruktur. Für das Modell gilt OpenMDW 1.1; die Gemma-4-Basis nennt Apache 2.0. DFlash-Entwurfsmodelle sind optionale Komponenten für spekulative Dekodierung, keine eigenständigen Chatmodelle und keine Garantie für Beschleunigung auf beliebiger Hardware.
i Die Preise ändern sich und können von Level, Region oder Kontextlänge abhängen. Überprüfen Sie die Quelle, bevor Sie eine Entscheidung treffen.
05 / BEWERTUNGEN
So lesen Sie die Ergebnisse
“
NVIDIA veröffentlicht einen Vergleich mit NeMo Gym, der BF16 und Q4_K_M trennt. Erfasst werden BFCL-v3, ToolSandbox und RULER bei 64K: Sie bewerten Funktionsaufrufe, zustandsbehaftete Werkzeuge beziehungsweise Kontextabruf und messen nicht dasselbe. Die Tests verwenden den Denkmodus, außer RoleBench, EQ-Bench v3 und RULER. Es sind weder Inferama-Messungen noch Sicherheitstests. Die Präzision kann Ergebnisse in beide Richtungen verändern; für eine Reproduktion müssen Checkpoint, Template, Sampling, Hardware und Evaluator-Version festgehalten werden.
| Benchmark | Ergebnis | Metrik | Quelle |
|---|---|---|---|
| BFCL-v3 | BF16: 68,51 % · Q4_K_M: 67,31 % | Höher ist besser | Quelle öffnen ↗ |
| ToolSandbox | BF16: 68,77 % · Q4_K_M: 74,13 % | Höher ist besser | Quelle öffnen ↗ |
| RULER (64K) | BF16: 86,99 % · Q4_K_M: 85,76 % | Höher ist besser | Quelle öffnen ↗ |
Inferama hebt nur dann ein „bestes Ergebnis“ hervor, wenn Metrik, Testsatz, Konfiguration und Datum einen gleichwertigen Vergleich ermöglichen. Die Zahlen des Lieferanten werden als Angaben aus eigener Quelle dargestellt.
06 / VERSIONEN
Chronologie
Bolt E4B · BF16 / Q4_K_M
Veröffentlichte Gewichte und verfügbarer Prototyping-Endpunkt; Varianten ohne doppelte Profile zusammengefasst.
07 / QUELLEN
Rückverfolgbarkeit
TECHNISCHES BLATTBolt E4B Q4_K_M · revisionsgebundene Modellkartehuggingface.co↗
TECHNISCHES BLATTBolt E4B BF16 · revisionsgebundene Modellkartehuggingface.co↗
KONFIGURATIONBF16-Konfiguration und Kontexthuggingface.co↗
APINVIDIA Build · Endpunkt und Kennungbuild.nvidia.com↗
STARTNVIDIA-Ankündigung und Verfügbarkeitsdatumblogs.nvidia.com↗
LIZENZOpenMDW 1.1openmdw.ai↗