Nemotron 3.5 Super VL: NVIDIA anuncia un modelo multimodal de 120.000 millones de parámetros
Imagen generada con gpt-image-2.5-sunburst para InferamaFuente ↗
01

Un modelo multimodal pensado para agentes especializados

NVIDIA anunció Nemotron 3.5 Super VL como un modelo abierto y personalizable para flujos de trabajo que combinan razonamiento, comprensión visual y uso de herramientas. Según la descripción técnica de la compañía, puede procesar texto, imágenes, documentos y vídeo dentro de un mismo modelo, con el objetivo de evitar separar algunas tareas entre un modelo lingüístico y otro de visión.

La propuesta se dirige a agentes que deben completar secuencias de trabajo, no solo responder a una pregunta aislada: por ejemplo, leer un documento, contrastar datos y utilizar herramientas. La empresa también plantea que el modelo pueda adaptarse con datos, herramientas y políticas propios. Esto describe el uso previsto y las capacidades que NVIDIA presenta; no demuestra que el sistema funcione igual de bien en todos los sectores o configuraciones.

La evidencia disponible es desigual en alcance. El anuncio corporativo confirma el lanzamiento y sitúa el modelo dentro de la familia Nemotron; el artículo técnico aporta cifras y detalles de evaluación, pero es contenido publicado por NVIDIA, no una replicación independiente. Por eso, sus resultados deben leerse como mediciones declaradas por el fabricante y no como una garantía general de rendimiento.

02

Arquitectura MoE: capacidad total frente a cálculo activo

Nemotron 3.5 Super VL tiene 120.000 millones de parámetros totales y activa 12.000 millones por token, de acuerdo con la documentación técnica de NVIDIA. En una arquitectura de mezcla de expertos, o MoE, distintas partes especializadas del modelo pueden participar en el procesamiento de una entrada. La cifra de parámetros activos indica cuánto del modelo se utiliza en cada paso, no que el sistema tenga únicamente 12.000 millones de parámetros almacenados.

Esa diferencia puede ayudar a equilibrar capacidad y cálculo: el modelo conserva un conjunto amplio de parámetros, mientras activa una fracción durante cada token. Pero la cantidad activa, por sí sola, no determina los requisitos reales de memoria ni la velocidad. También influyen la precisión numérica, la longitud del contexto, la implementación, el tamaño de lote y el hardware.

El material técnico describe además una combinación de técnicas de inferencia: decodificación especulativa LiLiCorr, predicción de varios tokens, reutilización de contexto y cuantización. Son optimizaciones distintas y sus efectos dependen de la carga de trabajo. No debe atribuirse a la arquitectura MoE, sin más, cualquier mejora que incluya la evaluación completa del sistema.

Cómo interpretar las cifras principales

Las cifras describen aspectos distintos del modelo; no son intercambiables ni bastan por sí solas para estimar una implementación.

DatoQué significaQué no permite concluir
120.000 millones de parámetrosTamaño total declarado del modelo.Memoria necesaria en una configuración concreta sin conocer formato y despliegue.
12.000 millones activos por tokenParámetros que se activan para procesar cada token, según NVIDIA.Que solo haya que almacenar 12.000 millones de parámetros.
MoEArquitectura que distribuye el procesamiento entre expertos.Una reducción garantizada de latencia o coste en cualquier hardware.
03

Benchmarks: resultados útiles, pero ligados a su configuración

NVIDIA afirma que el modelo alcanza hasta cinco veces más rendimiento de salida en tareas agénticas que otros modelos abiertos de su categoría. El artículo técnico describe asimismo resultados en evaluaciones de agentes, comprensión de gráficos y ejecución local en DGX Spark. Estas métricas no son equivalentes: throughput mide producción de tokens bajo unas condiciones determinadas, mientras que completar una tarea depende también de los pasos, llamadas a herramientas y tokens consumidos.

En Hermes Bench, el artículo técnico publica un 63,44 % para Nemotron 3.5 Super VL y un 56,33 % para Nemotron 3 Ultra. En las evaluaciones conductuales de LangChain, presenta un 87,05 % frente a un 84,3 %, respectivamente. La fuente atribuye las cifras a esas pruebas concretas; no acredita que sean evaluaciones independientes ni permite extrapolarlas a todos los agentes, modelos o conjuntos de datos.

Para comprensión de gráficos, NVIDIA informa de un 80,8 % en CharXiv y de un 84 % al utilizar interpretación de código Python. Esa diferencia ilustra que el resultado puede depender del procedimiento de evaluación. Para decidir si el modelo sirve en un caso real, conviene reproducir la prueba con documentos, herramientas, criterios de éxito y límites de tiempo propios.

04

DGX Spark, NVFP4 y costes: lo que aún no se puede comparar

La documentación técnica indica que Nemotron 3.5 Super VL se optimizó para ejecutarse localmente en NVIDIA DGX Spark y recoge una evaluación independiente de EXO Labs sobre el equilibrio entre precisión y tiempo de tarea. Sin embargo, la información aportada no incluye una tabla completa y comparable de latencia y throughput frente a Bolt 74B-A9B o Bolt E4B, ni mediciones homogéneas de consumo eléctrico en DGX Spark, RTX 6000 o RTX 8000.

Por tanto, no es posible responder con rigor cuánto costaría cada tarea en esas GPU ni cuál de esos modelos sería más rápido en una instalación concreta. El resultado depende del hardware exacto, el formato de pesos, el motor de inferencia, el tamaño de entrada, la concurrencia y la definición de tarea terminada. El anuncio de los modelos Bolt no constituye por sí mismo una comparación de rendimiento con Super VL.

NVIDIA describe una receta NVFP4 para la arquitectura Blackwell que cuantiza pesos y activaciones a cuatro bits, y señala que la destilación consciente de la cuantización busca conservar precisión frente al modelo BF16. También indica que el mismo checkpoint puede ejecutarse en plataformas no Blackwell con pesos de cuatro bits y activaciones de 16 bits. Es una descripción de compatibilidad y método; las fuentes disponibles no aportan una medición independiente, en una carga común, que cuantifique la pérdida o mejora de precisión y energía.

05

Compatibilidad y posibles usos industriales

NVIDIA presenta herramientas propias para personalizar y desplegar el modelo, entre ellas NeMo, NVIDIA NIM y Dynamo. La documentación técnica menciona además una amplia relación de plataformas y marcos del ecosistema, incluidos vLLM, SGLang, Ollama y LM Studio. La presencia de un nombre en un listado de socios o herramientas no demuestra que todas las funciones, formatos y optimizaciones estén disponibles en todas las versiones; antes de desplegar, hay que comprobar el soporte específico del checkpoint y del backend.

Entre los usos descritos se encuentran la inteligencia documental, el análisis de vídeo, la investigación web, la ciberseguridad y la asistencia a tareas de programación. Son ejemplos de aplicaciones posibles, no resultados garantizados. Para cada caso importa evaluar también el tratamiento de datos sensibles, la fiabilidad de las respuestas, las políticas de acceso a herramientas y la recuperación ante errores.

La documentación menciona adaptaciones para flujos de trabajo especializados, incluidas tareas financieras y de análisis de amenazas. Las mejoras concretas comunicadas corresponden a configuraciones particulares y a trabajos posteriores de ajuste; no deben tomarse como una propiedad automática del modelo base. Para una adopción industrial, la validación debe incluir datos propios y medidas de seguridad, calidad y coste.

Proceso breve para validar una implementación

Una prueba de concepto útil debe separar la calidad del modelo de las optimizaciones de infraestructura.

  1. 01Definir una tarea y un criterio de éxito verificable, además de límites de latencia y coste.
  2. 02Fijar hardware, formato de pesos, motor de inferencia, contexto y concurrencia para que la comparación sea reproducible.
  3. 03Probar el modelo base y la configuración cuantizada con el mismo conjunto de casos, registrando errores, tiempos y consumo.
  4. 04Repetir con entradas representativas y revisar compatibilidad, privacidad y controles de herramientas antes de pasar a producción.
06

Conclusión: capacidad prometedora, evidencia todavía acotada

Nemotron 3.5 Super VL combina un tamaño total de 120.000 millones de parámetros con 12.000 millones activos por token y un diseño multimodal orientado a agentes. La documentación de NVIDIA describe técnicas para acelerar inferencia y presenta resultados en benchmarks específicos; también señala una ruta de ejecución local en DGX Spark y opciones de personalización.

La conclusión prudente es que el modelo merece evaluación en tareas donde texto, documentos o vídeo deban combinarse con razonamiento y herramientas. Pero no hay base en la evidencia aportada para afirmar que sea el más rápido en términos generales, que consuma menos energía que alternativas concretas o que ofrezca un coste determinado en RTX 6000, RTX 8000 o DGX Spark. Tampoco se suministran comparativas específicas y homogéneas contra Bolt 74B-A9B y Bolt E4B.

Para lectores que comparan sistemas, la decisión práctica es medir la tarea completa, no solo tokens por segundo: exactitud, latencia de extremo a extremo, consumo, coste, estabilidad y compatibilidad real. La arquitectura y las cifras anunciadas sirven para formular hipótesis; la prueba con datos y hardware propios determina si esas hipótesis se sostienen.

Decisión según el objetivo del despliegue

Una guía de evaluación inicial basada en las capacidades y límites documentados.

ObjetivoQué medir primeroPrecaución
Procesar documentos con imágenes y tablasExactitud por campo, lectura de gráficos y latencia completa.No inferir rendimiento industrial desde un benchmark aislado.
Ejecutar agentes localmenteMemoria, throughput, consumo y calidad en el hardware objetivo.La optimización para DGX Spark no fija el resultado en otras GPU.
Comparar NVFP4 con BF16Precisión en casos difíciles, memoria y rendimiento con idéntica configuración.La destilación busca cerrar brechas, pero hay que comprobarlo en la tarea propia.
Comparar con modelos BoltMismas entradas, herramientas, hardware y criterio de finalización.Las fuentes aportadas no ofrecen una comparación homogénea completa.

Qué sigue abierto

  • No hay datos comparables suficientes sobre latencia, throughput o energía para Super VL frente a Bolt 74B-A9B y Bolt E4B en DGX Spark, RTX 6000 y RTX 8000.
  • Los benchmarks técnicos proceden de material de NVIDIA; no se documenta en las fuentes aportadas una replicación independiente completa de las cifras principales.
  • No se especifican de forma suficiente todos los parámetros de carga y configuración necesarios para extrapolar los resultados de throughput a una implementación concreta.
  • La documentación describe NVFP4 y destilación consciente de cuantización, pero no aporta una medición independiente homogénea de su impacto en precisión y consumo energético.
07

Continúa explorando

07

Fuentes consultadas

03

Correcciones y transparencia

Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.

Proponer una corrección