S
SARVAM AI / sarvamai/prism · API sarvam-prism

Sarvam Prism

Modelo de decisión de Sarvam AI publicado el 3 de noviembre, basado en Sarvam 105B. Procesa estado, preguntas y opciones y devuelve probabilidades en una sola pasada. No genera texto libre ni acepta imágenes. Los pesos FP8 están publicados y la API utiliza el identificador sarvam-prism mediante POST /v2/systemone.

01 / RESUMEN

Lo esencial

ORIENTACIÓNDecisiones con probabilidades calibradas

Uso principal declarado o inferido con cautela desde la documentación oficial.

CONTEXTOAPI: 32.768 tokens por pregunta; pesos: 131.072

Capacidad máxima de entrada cuando la fuente la publica.

SALIDAProbabilidad por opción, sin generación de texto

Límite máximo de generación documentado.

ACCESOHugging Face y API de Sarvam

Canales de disponibilidad verificados.

TIPO DE MODELOClasificación y decisión

Familia funcional principal y especialidades verificadas.

LICENCIAApache 2.0

Condiciones declaradas para API, pesos o despliegue propio.

02 / FICHA TÉCNICA

Límites e integración

ID de APIsarvamai/prism · API sarvam-prism
Tipo de modeloClasificación y decisión
Modelo de accesoPesos abiertos
LicenciaApache 2.0
DespliegueDespliegue propio
Lanzamiento03 NOV 2026
Corte de conocimientoNo publicado
EntradaTexto · JSON
SalidaProbabilidades y valores tipados
Ventana de contextoAPI: 32.768 tokens por pregunta; pesos: 131.072
Salida máximaProbabilidad por opción, sin generación de texto
RazonamientoNo publicado
Herramientas publicadas
Salidas estructuradasNo publicado
Procesamiento por lotesNo publicado
Caché de promptsNo publicado
Ajuste finoNo publicado
Plataformas verificadasHugging Face · PyTorch
ENCAJA MEJOR EN

Clasificación de solicitudes, moderación, selección entre opciones y evaluación de ejecuciones de agentes. Admite preguntas de elección, sí/no y escala ordenada. La confianza debe validarse en el dominio real; una probabilidad alta no sustituye la evidencia disponible ni elimina el riesgo de sesgos.

CONVIENE VIGILAR

La API limita cada pregunta a 32.768 tokens y los pesos documentan 131.072. No deben confundirse ambos canales. El código local usa un formato FP8 propio, aproximadamente 106 GB de disco y unos 120 GB de memoria GPU libre. No se carga como AutoModelForCausalLM. La validación de velocidad se realizó en B200.

03 / CAPACIDADES

Qué puede hacer

01

Orientación

Clasificación de solicitudes, moderación, selección entre opciones y evaluación de ejecuciones de agentes. Admite preguntas de elección, sí/no y escala ordenada. La confianza debe validarse en el dominio real; una probabilidad alta no sustituye la evidencia disponible ni elimina el riesgo de sesgos.

02

Contexto

API: 32.768 tokens por pregunta; pesos: 131.072 · Probabilidad por opción, sin generación de texto

03

Herramientas e integración

No publicado

04

Acceso

Hugging Face y API de Sarvam

Modalidades de entrada
TextoJSON
04 / PRECIOS

Coste documentado

ConceptoValorUnidad / condición
Entrada estándar4 INR / 1M tokens en la APITarifa estándar de API
Entrada en cachéNo publicadoLectura de prefijos reutilizados
Escritura o almacenamiento de cachéNo publicadoLa condición varía según proveedor
Salida estándar0 INR por salida en la APIPuede incluir tokens de razonamiento
Entrada por lotesNo publicadoProcesamiento asíncrono
Salida por lotesNo publicadoProcesamiento asíncrono

Sarvam publica 4 INR por millón de tokens de entrada y 0 INR por tokens de salida. Es facturación de una API de decisiones, no un precio de texto generado. El despliegue local añade infraestructura y operación. No se inventa una conversión a USD ni se asume gratuidad de los recursos GPU.

i Los precios cambian y pueden depender del nivel, la región o la longitud del contexto. Revisa la fuente antes de tomar una decisión.

05 / EVALUACIONES

Cómo leer los resultados

“

El proveedor comunica 71,8 de media en tres índices de decisión. La ficha registra 44 ms de mediana y 420 ms en el percentil 95 sobre mil peticiones secuenciales, tras cargar el modelo, en una B200. Son pruebas del proveedor y no garantizan la latencia de red ni de otra infraestructura.

BenchmarkResultadoMétricaFuente
Sarvam Prism decision indices average71,8 / 100PuntuaciónVer fuente ↗
Sarvam Prism sequential B200 median latency44 msMediana; menor es mejorVer fuente ↗

Inferama solo destaca un «mejor resultado» cuando la métrica, el conjunto de prueba, la configuración y la fecha permiten una comparación equivalente. Las cifras del proveedor se presentan como afirmaciones de su propia fuente.

06 / VERSIONES

Cronología

Sarvam Prism

Versión incorporada al catálogo verificado de Inferama.

07 / FUENTES

Trazabilidad