S
SARVAM AI / sarvamai/prism · API sarvam-prism

Sarvam Prism

Modèle de décision de Sarvam AI lancé le 3 novembre, basé sur Sarvam 105B. Il traite état, questions et options et renvoie des probabilités en une seule passe. Il ne génère pas de texte libre et n’accepte pas d’images. Les poids FP8 sont publiés et l’API utilise sarvam-prism via POST /v2/systemone.

01 / RÉSUMÉ

L'essentiel

ORIENTATIONDécisions avec probabilités calibrées

Utilisation principale déclarée ou déduite avec prudence de la documentation officielle.

CONTEXTEAPI : 32 768 tokens par question ; poids : 131 072

Capacité d'entrée maximale une fois publiée par la source.

SORTIEProbabilité par option, sans génération de texte

Limite de génération maximale documentée.

ACCÈSHugging Face et API Sarvam

Canaux de disponibilité vérifiés.

TYPE DE MODÈLEClassification et décision

Famille fonctionnelle principale et spécialités vérifiées.

LICENCEApache 2.0

Conditions déclarées pour l’API, les poids ou l’auto-hébergement.

02 / FICHE TECHNIQUE

Limites et intégration

ID d’APIsarvamai/prism · API sarvam-prism
Type de modèleClassification et décision
Mode d’accèsPoids ouverts
LicenceApache 2.0
DéploiementAuto-hébergement
Lancement03 NOV 2026
Date limite des connaissancesNon publié
EntréeTexte · JSON
SortieProbabilités et valeurs typées
Fenêtre contextuelleAPI : 32 768 tokens par question ; poids : 131 072
puissance maximaleProbabilité par option, sans génération de texte
RaisonnementNon publié
Outils publiés
Sorties structuréesNon publié
Traitement par lotsNon publié
Cache de promptsNon publié
Ajustement finNon publié
Plateformes vérifiéesHugging Face · PyTorch
CONVIENT MIEUX À

Classification de demandes, modération, sélection parmi des options et évaluation d’exécutions d’agents. Il accepte choix, oui/non et échelles ordonnées. La confiance doit être validée dans le domaine réel ; une probabilité élevée ne remplace pas les preuves disponibles et n’élimine pas les biais.

À SURVEILLER

L’API limite chaque question à 32 768 tokens et les poids documentent 131 072. Ne confondez pas ces canaux. Le code local utilise un format FP8 propre, environ 106 Go de disque et 120 Go de mémoire GPU libre. Il ne se charge pas comme AutoModelForCausalLM. La vitesse a été validée sur B200.

03 / CAPACITÉS

Ce qu’il peut faire

01

Orientation

Classification de demandes, modération, sélection parmi des options et évaluation d’exécutions d’agents. Il accepte choix, oui/non et échelles ordonnées. La confiance doit être validée dans le domaine réel ; une probabilité élevée ne remplace pas les preuves disponibles et n’élimine pas les biais.

02

Contexte

API : 32 768 tokens par question ; poids : 131 072 · Probabilité par option, sans génération de texte

03

Outils et intégration

Non publié

04

Accès

Hugging Face et API Sarvam

Modalités d’entrée
TexteJSON
04 / TARIFS

Coût documenté

ConceptValeurUnité/état
Entrée standard4 INR / 1M tokens via l’APITarif API standard
Entrée en cacheNon publiéLecture de préfixes réutilisés
Écriture ou stockage de cacheNon publiéLa condition varie selon le fournisseur
Sortie standard0 INR pour la sortie via l’APIPeut inclure des tokens de raisonnement
Entrée par lotsNon publiéTraitement asynchrone
Sortie par lotsNon publiéTraitement asynchrone

Sarvam affiche 4 INR par million de tokens entrants et 0 INR pour les tokens sortants. C’est la facturation d’une API de décision, pas un prix de texte généré. Le déploiement local ajoute infrastructure et exploitation. Aucune conversion USD n’est inventée et les ressources GPU ne sont pas supposées gratuites.

i Les prix changent et peuvent dépendre du niveau, de la région ou de la durée du contexte. Vérifiez la source avant de prendre une décision.

05 / ÉVALUATIONS

Comment lire les résultats

“

Le fournisseur annonce une moyenne de 71,8 sur trois indices de décision. La fiche indique 44 ms de médiane et 420 ms au 95e percentile sur mille requêtes séquentielles après chargement sur B200. Ce sont des tests du fournisseur, sans garantie de latence réseau ni sur une autre infrastructure.

BenchmarkRésultatMétriqueSource
Sarvam Prism decision indices average71,8 / 100ScoreVoir la source ↗
Sarvam Prism sequential B200 median latency44 msMédiane ; plus bas est mieuxVoir la source ↗

Inferama ne met en évidence un « meilleur résultat » que lorsque la métrique, l'ensemble de test, la configuration et la date permettent une comparaison équivalente. Les chiffres du fournisseur sont présentés comme des affirmations provenant de sa propre source.

06 / VERSIONS

Chronologie

Sarvam Prism

Version intégrée au catalogue vérifié d’Inferama.

07 / SOURCES

Traçabilité