Primäre Verwendung angegeben oder vorsichtig aus offizieller Dokumentation abgeleitet.
N
NVIDIA / nvidia/Nemotron-3.5-Rerank-8B-BF16
Nemotron 3.5 Rerank 8B BF16
NVIDIA-Reranker mit 8,38 Milliarden Parametern, veröffentlicht am 20. Oktober 2026. Er bewertet jedes Paar aus Textanfrage und Dokument, das Text, ein Seitenbild oder beides enthalten kann. Er ergänzt die erste Suche durch das Reranking der Kandidaten; er erzeugt weder Antworten noch Embeddings. Er kombiniert einen Pixtral-Bildencoder mit einem bidirektionalen Ministral3-Turm.
01 / ZUSAMMENFASSUNG
Das Wesentliche
Maximale Eingabekapazität bei Veröffentlichung durch die Quelle.
Dokumentierte maximale Erzeugungsgrenze.
Verifizierte Verfügbarkeitskanäle.
Primäre Funktionsfamilie und verifizierte Spezialisierungen.
Deklarierte Bedingungen für API, Gewichte oder Self-Hosting.
02 / TECHNISCHES DATENBLATT
Limits und Integration
| API-ID | nvidia/Nemotron-3.5-Rerank-8B-BF16 |
|---|---|
| Modelltyp | Reranking · Bild und Dokumente · Multimodal |
| Zugangsmodell | Offene Gewichte |
| Lizenz | OpenMDW 1.1 |
| Einsatz | Eigenbetrieb mit NVIDIA-GPUs |
| Veröffentlichung | 20 OCT 2026 |
| Wissensstichtag | Nicht veröffentlicht |
| Eingang | Text · Bild |
| Ausfahrt | Bewertungen |
| Kontextfenster | 32.768 Tokens gemeinsam für Text und Bild |
| maximale Leistung | Ein Relevanz-Logit pro Anfrage-Dokument-Paar |
| Argumentation | Informationssuche, keine Dialoggenerierung |
| Veröffentlichte Tools | Reranking von Kandidaten |
| Strukturierte Ausflüge | Unkalibrierte Logits; höhere Werte bedeuten höhere Relevanz |
| Stapelverarbeitung | Batch-Inferenz auf eigener Infrastruktur |
| Prompt-Cache | Nicht veröffentlicht |
| Feinabstimmung | Nicht veröffentlicht |
| Verifizierte Plattformen | Hugging Face · Transformers · Sentence Transformers · vLLM |
Semantische Suche und RAG für Berichte, Tabellen, Diagramme und Infografiken. NVIDIA nennt Textevaluationen in 34 und visuelle Evaluationen in 18 Sprachen; diese Abdeckung ist keine universelle Garantie. Verwende die genaue Checkpoint-Kennung und offizielle Präfixe für Anfragen und Dokumente. Die Beispiele unterstützen Batch-Inferenz auf eigener Infrastruktur.
Die dokumentierte Grenze beträgt insgesamt 32.768 Tokens, auch wenn die interne Konfiguration mehr Positionen nennt. Die längste Bildkante beträgt standardmäßig 1.120 Pixel und kann auf 1.540 erhöht werden. Prüfe trust_remote_code vor der Ausführung. Die Transformers-Beispiele mit Flash Attention 2 erfordern Version 5.20.0; vLLM 0.32.0 nutzt eine getrennte Umgebung mit Transformers unter 5.20.0. Inferama hat keine Inferenz ausgeführt.
03 / FÄHIGKEITEN
Was es kann
Orientierung
Semantische Suche und RAG für Berichte, Tabellen, Diagramme und Infografiken. NVIDIA nennt Textevaluationen in 34 und visuelle Evaluationen in 18 Sprachen; diese Abdeckung ist keine universelle Garantie. Verwende die genaue Checkpoint-Kennung und offizielle Präfixe für Anfragen und Dokumente. Die Beispiele unterstützen Batch-Inferenz auf eigener Infrastruktur.
Kontext
32.768 Tokens gemeinsam für Text und Bild · Ein Relevanz-Logit pro Anfrage-Dokument-Paar
Tools und Integration
Reranking von Kandidaten
Zugang
Hugging Face · herunterladbarer Checkpoint
Eingabemodalitäten
TextBild
04 / PREISE
Dokumentierte Kosten
| Konzept | Wert | Einheit/Zustand |
|---|---|---|
| Standardeingabe | Kein offizieller API-Preis veröffentlicht | Standardtarif der API |
| Eingabe aus dem Cache | Nicht veröffentlicht | Lesen wiederverwendeter Präfixe |
| Schreiben oder Speichern im Cache | Nicht veröffentlicht | Die Bedingung variiert je nach Anbieter |
| Standardausgabe | Kosten der eigenen Infrastruktur | Kann Reasoning-Tokens enthalten |
| Batch-Eingabe | Nicht veröffentlicht | Asynchrone Verarbeitung |
| Batch-Ausgabe | Nicht veröffentlicht | Asynchrone Verarbeitung |
Öffentliche Gewichte ohne Zugangsbeschränkung unter OpenMDW 1.1; kommerzielle Nutzung unterliegt deren Bedingungen und der Beibehaltung von Hinweisen. Die Ministral-Basismodelle behalten ihre Apache-2.0-Bedingungen. Eine gehostete kommerzielle API samt Kennung oder Preis wurde nicht verifiziert: numerische Kostenfelder bleiben leer. Der Download beseitigt keine GPU-, Speicher- und Betriebskosten.
i Die Preise ändern sich und können von Level, Region oder Kontextlänge abhängen. Überprüfen Sie die Quelle, bevor Sie eine Entscheidung treffen.
05 / BEWERTUNGEN
So lesen Sie die Ergebnisse
“
Die offizielle Modellkarte nennt ViDoRe V3 und MIRACL-VISION mit NDCG@10, veröffentlicht jedoch keine verifizierbaren Zahlenwerte für diesen Checkpoint. Wir übertragen keine Vorgängerergebnisse und erfinden keine Ranglistenplätze. Die Evaluation durch Inferama steht aus. Für die Reproduktion Revision, Datensatz, Sprachen, Kandidaten, Auflösung, Dimension, Normalisierung, Hardware und Latenz festhalten; Suche und Reranking getrennt vergleichen.
i ViDoRe V3 und MIRACL-VISION dokumentiert; keine verifizierten Zahlenwerte.
Inferama hebt nur dann ein „bestes Ergebnis“ hervor, wenn Metrik, Testsatz, Konfiguration und Datum einen gleichwertigen Vergleich ermöglichen. Die Zahlen des Lieferanten werden als Angaben aus eigener Quelle dargestellt.
06 / VERSIONEN
Chronologie
nvidia/Nemotron-3.5-Rerank-8B-BF16
Veröffentlichungsdatum laut offizieller Modellkarte; nicht mit Erstellung oder Änderung des Repositorys verwechseln.
07 / QUELLEN