Uso principal declarado o inferido con cautela desde la documentación oficial.
Nemotron 3.5 Rerank 8B BF16
Reranker de NVIDIA con 8,38B parámetros, publicado el 20 de octubre de 2026. Puntúa cada pareja de consulta textual y documento, que puede contener texto, una imagen de página o ambos. Complementa la búsqueda inicial reordenando candidatos; no genera respuestas ni embeddings. Combina un codificador visual Pixtral con una torre Ministral3 bidireccional.
Lo esencial
Capacidad máxima de entrada cuando la fuente la publica.
Límite máximo de generación documentado.
Canales de disponibilidad verificados.
Familia funcional principal y especialidades verificadas.
Condiciones declaradas para API, pesos o despliegue propio.
Límites e integración
| ID de API | nvidia/Nemotron-3.5-Rerank-8B-BF16 |
|---|---|
| Tipo de modelo | Reranking · Visión y documentos · Multimodal |
| Modelo de acceso | Pesos abiertos |
| Licencia | OpenMDW 1.1 |
| Despliegue | Despliegue propio con GPU NVIDIA |
| Lanzamiento | 20 OCT 2026 |
| Corte de conocimiento | No publicado |
| Entrada | Texto · Imagen |
| Salida | Puntuaciones |
| Ventana de contexto | 32.768 tokens compartidos entre texto e imagen |
| Salida máxima | Un logit de relevancia por par consulta-documento |
| Razonamiento | Recuperación de información, no generación conversacional |
| Herramientas publicadas | Reordenación de candidatos |
| Salidas estructuradas | Logits sin calibrar; mayor valor indica mayor relevancia |
| Procesamiento por lotes | Inferencia por lotes con infraestructura propia |
| Caché de prompts | No publicado |
| Ajuste fino | No publicado |
| Plataformas verificadas | Hugging Face · Transformers · Sentence Transformers · vLLM |
Búsqueda semántica y RAG sobre informes, tablas, gráficos e infografías. NVIDIA declara evaluación textual en 34 idiomas y visual en 18; estas coberturas no son garantías universales. Usa el identificador exacto del checkpoint y los prefijos de consulta y documento oficiales. Los ejemplos admiten inferencia por lotes con infraestructura propia.
El límite documentado es 32.768 tokens conjuntos, aunque la configuración interna declare más posiciones. Las imágenes utilizan un lado mayor de 1.120 píxeles por defecto, ampliable a 1.540. Revisa cualquier trust_remote_code antes de ejecutarlo. Transformers con Flash Attention 2 requiere la versión 5.20.0 en los ejemplos; vLLM 0.32.0 utiliza otro entorno con Transformers inferior a 5.20.0. No se ha ejecutado inferencia en Inferama.
Qué puede hacer
Orientación
Búsqueda semántica y RAG sobre informes, tablas, gráficos e infografías. NVIDIA declara evaluación textual en 34 idiomas y visual en 18; estas coberturas no son garantías universales. Usa el identificador exacto del checkpoint y los prefijos de consulta y documento oficiales. Los ejemplos admiten inferencia por lotes con infraestructura propia.
Contexto
32.768 tokens compartidos entre texto e imagen · Un logit de relevancia por par consulta-documento
Herramientas e integración
Reordenación de candidatos
Acceso
Hugging Face · checkpoint descargable
Coste documentado
| Concepto | Valor | Unidad / condición |
|---|---|---|
| Entrada estándar | Sin tarifa API oficial publicada | Tarifa estándar de API |
| Entrada en caché | No publicado | Lectura de prefijos reutilizados |
| Escritura o almacenamiento de caché | No publicado | La condición varía según proveedor |
| Salida estándar | Coste de infraestructura propia | Puede incluir tokens de razonamiento |
| Entrada por lotes | No publicado | Procesamiento asíncrono |
| Salida por lotes | No publicado | Procesamiento asíncrono |
Pesos públicos y no restringidos por acceso, bajo OpenMDW 1.1, con uso comercial sujeto a sus términos y conservación de avisos. Las bases Ministral conservan sus condiciones Apache 2.0. No se ha verificado una API comercial alojada ni su identificador o precio: las cifras de coste permanecen vacías. La descarga no elimina los costes de GPU, memoria y operación.
i Los precios cambian y pueden depender del nivel, la región o la longitud del contexto. Revisa la fuente antes de tomar una decisión.
Cómo leer los resultados
La ficha oficial menciona ViDoRe V3 y MIRACL-VISION con NDCG@10, pero no publica puntuaciones numéricas verificables para este checkpoint. No trasladamos resultados de predecesores ni inventamos posiciones en rankings. La evaluación de Inferama está pendiente. Para reproducirla conserva revisión, conjunto, idiomas, candidatos, resolución, dimensión, normalización, hardware y latencia; compara recuperación y reranking como etapas distintas.
i ViDoRe V3 y MIRACL-VISION documentados; sin puntuaciones numéricas verificadas.
Inferama solo destaca un «mejor resultado» cuando la métrica, el conjunto de prueba, la configuración y la fecha permiten una comparación equivalente. Las cifras del proveedor se presentan como afirmaciones de su propia fuente.
Cronología
nvidia/Nemotron-3.5-Rerank-8B-BF16
Fecha de lanzamiento declarada en la ficha oficial; no confundir con la creación ni la modificación del repositorio.