NVIDIA veröffentlicht Nemotron 3.5 Rerank und Embed sowie CDF Sim2Real SMT Solderlight

Was wurde wann veröffentlicht

NVIDIA hat am 20. Oktober 2026 vier KI-Modelle veröffentlicht. Dazu gehören zwei Embedding-Varianten (Nemotron 3.5 Embed 8B BF16 und Nemotron 3.5 Embed 1B BF16), ein Reranking-Modell (Nemotron 3.5 Rerank 8B BF16) und ein bildbearbeitendes Modell für die Elektronikindustrie (CDF Sim2Real SMT Solderlight).

Die Veröffentlichung erfolgte gleichzeitig in offiziellen Repositories, was die sofortige Verfügbarkeit der Gewichte im BF16-Format bestätigt. Es wurde kein verzögertes Launch-Datum oder eine Beta-Phase angekündigt; die Modelle sind bereit für den Download und das Deployment durch Endnutzer.

Die gleichzeitige Bereitstellung aller vier Modelle in den offiziellen Repositories unterstreicht die strategische Ausrichtung auf eine sofortige Integration in bestehende Workflows. Da keine Beta-Phase oder verzögerte Freigabe angekündigt wurde, können Entwickler die BF16-Gewichte unmittelbar für das Deployment nutzen. Dieser Ansatz eliminiert typische Wartezeiten, die bei gestaffelten Veröffentlichungen entstehen, und ermöglicht es Teams, die Modelle parallel in ihre Retrieval- und Inspektionspipelines zu evaluieren, ohne auf zusätzliche Ankündigungen oder Updates warten zu müssen.

Varianten, Modalitäten und Zugriff

Die Modelle der Familie Nemotron 3.5 sind multimodal und akzeptieren sowohl Text als auch Seitenbilder als Eingabe. Das Reranking-Modell bewertet die Relevanz jedes Abfrage-Dokument-Paars, während die Embedding-Modelle normalisierte Vektoren erzeugen (4.096 Dimensionen für das 8B-Modell und 2.048 für das 1B-Modell).

Der Zugriff erfolgt direkt über die offiziellen Repositories. Es gibt keine von NVIDIA gehostete kommerzielle API für diese spezifischen Modelle, was bedeutet, dass der Nutzer seine eigene Recheninfrastruktur verwalten muss. Die Lizenz OpenMDW 1.1 erlaubt die kommerzielle Nutzung, vorbehaltlich ihrer Bedingungen und der Beibehaltung der Urheberrechts-Hinweise.

Die multimodale Natur der Nemotron 3.5-Modelle bedeutet, dass die Eingabedaten nicht vorverarbeitet oder getrennt werden müssen, um die Relevanz zu bewerten. Das Reranking-Modell verarbeitet Text und Seitenbilder gemeinsam, was die Komplexität der Sucharchitektur reduziert. Die normalisierten Vektoren der Embedding-Modelle, mit 4.096 Dimensionen für die 8B-Variante und 2.048 für die 1B-Variante, sind darauf ausgelegt, die Ähnlichkeit zwischen gemischten Dokumenten und Abfragen präzise zu messen, was die Qualität der Retrieval-Ergebnisse in heterogenen Datenbeständen verbessern kann.

Was sich für den Nutzer ändert

Für Software-Engineering-Teams ist die wichtigste Neuerung die Fähigkeit, gemischte Dokumente (Text und Bild) in einer einzigen Stufe der Retrieval- oder Reranking-Verarbeitung zu verarbeiten. Dies vereinfacht Sucharchitekturen, die zuvor separate Pipelines für Text und Vision erforderten.

Das Modell CDF Sim2Real SMT Solderlight ist spezifischer: Es ist dafür konzipiert, synthetische Ausschnitte von Bauteilen auf gedruckten Schaltungen (PCBs) in einen Beleuchtungsstil für die optische Inspektion zu transformieren. Es ist kein Qualitätsentscheider, sondern ein visuelles Preprocessing-Tool, das ein nachgelagertes Inspektionssystem und menschliche Überprüfung erfordert.

Die Vereinfachung der Sucharchitekturen durch die Verarbeitung gemischter Dokumente in einer einzigen Stufe hat direkte Auswirkungen auf die Wartbarkeit und Skalierbarkeit von Software-Engineering-Projekten. Anstatt separate Pipelines für Text und Vision zu pflegen, die oft unterschiedliche Latenzen und Fehlerquellen aufweisen, können Teams eine einheitliche Verarbeitungskette implementieren. Dies reduziert den Aufwand für die Integration und das Debugging, da die Interaktion zwischen textuellen und visuellen Informationen innerhalb eines einzigen Modellkontexts stattfindet, was zu konsistenteren und schnelleren Suchergebnissen führt.

Preis, Grenzen und offene Punkte

Es wurden keine API-Gebühren veröffentlicht. Die Kosten für den Nutzer beschränken sich auf die eigene Infrastruktur: GPU, Speicher, Storage und Betrieb. Die 8B-Parameter-Modelle erfordern leistungsfähigere Hardware als die 1B-Variante, die für ressourcenbeschränkte Umgebungen konzipiert ist.

Eine wichtige Grenze ist der gemeinsame Kontext von 32.768 Tokens für Text und Bild. Darüber hinaus werden Bilder standardmäßig mit einer längeren Seite von 1.120 Pixeln verarbeitet, erweiterbar auf 1.540. Es wurden keine unabhängigen numerischen Benchmarks für diese spezifischen Checkpoints veröffentlicht, daher muss die Leistungsbewertung vom Nutzer in seinem eigenen Kontext durchgeführt werden.

Die Abwesenheit veröffentlichter API-Gebühren verschiebt die Kostenstruktur vollständig auf die Seite des Nutzers, der seine eigene Infrastruktur bereitstellen muss. Während die 1B-Variante für ressourcenbeschränkte Umgebungen konzipiert ist und geringere Hardwareanforderungen stellt, benötigen die 8B-Modelle leistungsfähigere GPUs und mehr Speicher. Da keine unabhängigen Benchmarks für diese spezifischen Checkpoints vorliegen, ist es für Nutzer entscheidend, die Leistung in ihrem eigenen Kontext zu bewerten, um sicherzustellen, dass die Investition in die Infrastruktur den erwarteten Nutzen in Bezug auf Latenz und Qualität bringt.

Technische Überlegungen und Deployment

Das Deployment erfordert Aufmerksamkeit für Software-Abhängigkeiten. Die offiziellen Beispiele verwenden Transformers Version 5.20.0 mit Flash Attention 2, während vLLM 0.32.0 eine Umgebung mit einer niedrigeren Transformers-Version erfordert. Es ist entscheidend, jeden Remote-Code (trust_remote_code) vor der Ausführung in der Produktion zu überprüfen.

Für das Bildmodell CDF Sim2Real SMT Solderlight wurde das Training mit einer Fläche von 262.144 Pixeln (512x512) durchgeführt. Die Verwendung sehr unterschiedlicher Auflösungen kann die Ausgabequalität beeinträchtigen. Das Modell leitet sich von Qwen-Image-Edit mit einem fusionierten LoRA-Adjustment ab, was bedeutet, dass es als vollständige Pipeline und nicht als unabhängiger Adapter geliefert wird.

Die technischen Abhängigkeiten, insbesondere die unterschiedlichen Anforderungen an die Transformers-Version für die offiziellen Beispiele und vLLM, erfordern eine sorgfältige Planung des Deployments. Die Notwendigkeit, Remote-Code vor der Ausführung in der Produktion zu überprüfen, ist ein kritischer Sicherheitsaspekt, der nicht übersehen werden darf. Für das Bildmodell CDF Sim2Real SMT Solderlight ist die Einhaltung der Trainingsauflösung von 512x512 Pixeln wichtig, da Abweichungen die Ausgabequalität beeinträchtigen können. Da das Modell als vollständige Pipeline geliefert wird, muss die gesamte Umgebung konfiguriert werden, anstatt nur einen Adapter zu integrieren.

Weiter entdecken

Korrekturen und Transparenz

Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.