N
NVIDIA / nvidia/Nemotron-3.5-Rerank-8B-BF16

Nemotron 3.5 Rerank 8B BF16

Reranker de NVIDIA con 8,38B parámetros, publicado el 20 de octubre de 2026. Puntúa cada pareja de consulta textual y documento, que puede contener texto, una imagen de página o ambos. Complementa la búsqueda inicial reordenando candidatos; no genera respuestas ni embeddings. Combina un codificador visual Pixtral con una torre Ministral3 bidireccional.

01 / RESUMEN

Lo esencial

ORIENTACIÓNReordenación multimodal de documentos

Uso principal declarado o inferido con cautela desde la documentación oficial.

CONTEXTO32.768 tokens compartidos entre texto e imagen

Capacidad máxima de entrada cuando la fuente la publica.

SALIDAUn logit de relevancia por par consulta-documento

Límite máximo de generación documentado.

ACCESOHugging Face · checkpoint descargable

Canales de disponibilidad verificados.

TIPO DE MODELOReranking · Visión y documentos · Multimodal

Familia funcional principal y especialidades verificadas.

LICENCIAOpenMDW 1.1

Condiciones declaradas para API, pesos o despliegue propio.

02 / FICHA TÉCNICA

Límites e integración

ID de APInvidia/Nemotron-3.5-Rerank-8B-BF16
Tipo de modeloReranking · Visión y documentos · Multimodal
Modelo de accesoPesos abiertos
LicenciaOpenMDW 1.1
DespliegueDespliegue propio con GPU NVIDIA
Lanzamiento20 OCT 2026
Corte de conocimientoNo publicado
EntradaTexto · Imagen
SalidaPuntuaciones
Ventana de contexto32.768 tokens compartidos entre texto e imagen
Salida máximaUn logit de relevancia por par consulta-documento
RazonamientoRecuperación de información, no generación conversacional
Herramientas publicadasReordenación de candidatos
Salidas estructuradasLogits sin calibrar; mayor valor indica mayor relevancia
Procesamiento por lotesInferencia por lotes con infraestructura propia
Caché de promptsNo publicado
Ajuste finoNo publicado
Plataformas verificadasHugging Face · Transformers · Sentence Transformers · vLLM
ENCAJA MEJOR EN

Búsqueda semántica y RAG sobre informes, tablas, gráficos e infografías. NVIDIA declara evaluación textual en 34 idiomas y visual en 18; estas coberturas no son garantías universales. Usa el identificador exacto del checkpoint y los prefijos de consulta y documento oficiales. Los ejemplos admiten inferencia por lotes con infraestructura propia.

CONVIENE VIGILAR

El límite documentado es 32.768 tokens conjuntos, aunque la configuración interna declare más posiciones. Las imágenes utilizan un lado mayor de 1.120 píxeles por defecto, ampliable a 1.540. Revisa cualquier trust_remote_code antes de ejecutarlo. Transformers con Flash Attention 2 requiere la versión 5.20.0 en los ejemplos; vLLM 0.32.0 utiliza otro entorno con Transformers inferior a 5.20.0. No se ha ejecutado inferencia en Inferama.

03 / CAPACIDADES

Qué puede hacer

01

Orientación

Búsqueda semántica y RAG sobre informes, tablas, gráficos e infografías. NVIDIA declara evaluación textual en 34 idiomas y visual en 18; estas coberturas no son garantías universales. Usa el identificador exacto del checkpoint y los prefijos de consulta y documento oficiales. Los ejemplos admiten inferencia por lotes con infraestructura propia.

02

Contexto

32.768 tokens compartidos entre texto e imagen · Un logit de relevancia por par consulta-documento

03

Herramientas e integración

Reordenación de candidatos

04

Acceso

Hugging Face · checkpoint descargable

Modalidades de entrada
TextoImagen
04 / PRECIOS

Coste documentado

ConceptoValorUnidad / condición
Entrada estándarSin tarifa API oficial publicadaTarifa estándar de API
Entrada en cachéNo publicadoLectura de prefijos reutilizados
Escritura o almacenamiento de cachéNo publicadoLa condición varía según proveedor
Salida estándarCoste de infraestructura propiaPuede incluir tokens de razonamiento
Entrada por lotesNo publicadoProcesamiento asíncrono
Salida por lotesNo publicadoProcesamiento asíncrono

Pesos públicos y no restringidos por acceso, bajo OpenMDW 1.1, con uso comercial sujeto a sus términos y conservación de avisos. Las bases Ministral conservan sus condiciones Apache 2.0. No se ha verificado una API comercial alojada ni su identificador o precio: las cifras de coste permanecen vacías. La descarga no elimina los costes de GPU, memoria y operación.

i Los precios cambian y pueden depender del nivel, la región o la longitud del contexto. Revisa la fuente antes de tomar una decisión.

05 / EVALUACIONES

Cómo leer los resultados

“

La ficha oficial menciona ViDoRe V3 y MIRACL-VISION con NDCG@10, pero no publica puntuaciones numéricas verificables para este checkpoint. No trasladamos resultados de predecesores ni inventamos posiciones en rankings. La evaluación de Inferama está pendiente. Para reproducirla conserva revisión, conjunto, idiomas, candidatos, resolución, dimensión, normalización, hardware y latencia; compara recuperación y reranking como etapas distintas.

i ViDoRe V3 y MIRACL-VISION documentados; sin puntuaciones numéricas verificadas.

Inferama solo destaca un «mejor resultado» cuando la métrica, el conjunto de prueba, la configuración y la fecha permiten una comparación equivalente. Las cifras del proveedor se presentan como afirmaciones de su propia fuente.

06 / VERSIONES

Cronología

nvidia/Nemotron-3.5-Rerank-8B-BF16

Fecha de lanzamiento declarada en la ficha oficial; no confundir con la creación ni la modificación del repositorio.

07 / FUENTES

Trazabilidad