S
SARVAM AI / sarvamai/prism · API sarvam-prism

Sarvam Prism

Entscheidungsmodell von Sarvam AI, veröffentlicht am 3. November auf Basis von Sarvam 105B. Es verarbeitet Zustand, Fragen und Optionen und liefert Wahrscheinlichkeiten in einem Durchlauf. Es erzeugt keinen freien Text und akzeptiert keine Bilder. FP8-Gewichte sind veröffentlicht, die API nutzt sarvam-prism über POST /v2/systemone.

01 / ZUSAMMENFASSUNG

Das Wesentliche

ORIENTIERUNGEntscheidungen mit kalibrierten Wahrscheinlichkeiten

Primäre Verwendung angegeben oder vorsichtig aus offizieller Dokumentation abgeleitet.

KONTEXTAPI: 32.768 Tokens je Frage; Gewichte: 131.072

Maximale Eingabekapazität bei Veröffentlichung durch die Quelle.

AUSFAHRTWahrscheinlichkeit je Option, ohne Texterzeugung

Dokumentierte maximale Erzeugungsgrenze.

ZUGANGHugging Face und Sarvam-API

Verifizierte Verfügbarkeitskanäle.

MODELLTYPKlassifikation und Entscheidung

Primäre Funktionsfamilie und verifizierte Spezialisierungen.

LIZENZApache 2.0

Deklarierte Bedingungen für API, Gewichte oder Self-Hosting.

02 / TECHNISCHES DATENBLATT

Limits und Integration

API-IDsarvamai/prism · API sarvam-prism
ModelltypKlassifikation und Entscheidung
ZugangsmodellOffene Gewichte
LizenzApache 2.0
EinsatzSelbst gehostet
Veröffentlichung03 NOV 2026
WissensstichtagNicht veröffentlicht
EingangText · JSON
AusfahrtWahrscheinlichkeiten und typisierte Werte
KontextfensterAPI: 32.768 Tokens je Frage; Gewichte: 131.072
maximale LeistungWahrscheinlichkeit je Option, ohne Texterzeugung
SchlussfolgernNicht veröffentlicht
Veröffentlichte Tools
Strukturierte AusflügeNicht veröffentlicht
StapelverarbeitungNicht veröffentlicht
Prompt-CacheNicht veröffentlicht
FeinabstimmungNicht veröffentlicht
Verifizierte PlattformenHugging Face · PyTorch
EIGNET SICH BESSER FÜR

Klassifikation von Anfragen, Moderation, Optionsauswahl und Bewertung von Agentenläufen. Unterstützt Auswahlfragen, Ja/Nein und geordnete Skalen. Konfidenz muss im tatsächlichen Bereich validiert werden; hohe Wahrscheinlichkeit ersetzt keine verfügbaren Belege und beseitigt keine Verzerrungsrisiken.

SOLLTE BEOBACHTET WERDEN

Die API begrenzt jede Frage auf 32.768 Tokens, die Gewichte dokumentieren 131.072. Die Zugänge dürfen nicht verwechselt werden. Lokaler Code nutzt ein eigenes FP8-Format, rund 106 GB Festplatte und etwa 120 GB freien GPU-Speicher. Es wird nicht als AutoModelForCausalLM geladen. Geschwindigkeit wurde auf B200 validiert.

03 / FÄHIGKEITEN

Was es kann

01

Orientierung

Klassifikation von Anfragen, Moderation, Optionsauswahl und Bewertung von Agentenläufen. Unterstützt Auswahlfragen, Ja/Nein und geordnete Skalen. Konfidenz muss im tatsächlichen Bereich validiert werden; hohe Wahrscheinlichkeit ersetzt keine verfügbaren Belege und beseitigt keine Verzerrungsrisiken.

02

Kontext

API: 32.768 Tokens je Frage; Gewichte: 131.072 · Wahrscheinlichkeit je Option, ohne Texterzeugung

03

Tools und Integration

Nicht veröffentlicht

04

Zugang

Hugging Face und Sarvam-API

Eingabemodalitäten
TextJSON
04 / PREISE

Dokumentierte Kosten

KonzeptWertEinheit/Zustand
Standardeingabe4 INR / 1M Tokens in der APIStandardtarif der API
Eingabe aus dem CacheNicht veröffentlichtLesen wiederverwendeter Präfixe
Schreiben oder Speichern im CacheNicht veröffentlichtDie Bedingung variiert je nach Anbieter
Standardausgabe0 INR für Ausgabe in der APIKann Reasoning-Tokens enthalten
Batch-EingabeNicht veröffentlichtAsynchrone Verarbeitung
Batch-AusgabeNicht veröffentlichtAsynchrone Verarbeitung

Sarvam nennt 4 INR je Million Eingabe-Tokens und 0 INR für Ausgabe-Tokens. Dies ist die Abrechnung einer Entscheidungs-API und kein Preis für erzeugten Text. Lokale Bereitstellung verursacht Infrastruktur- und Betriebskosten. Es wird keine USD-Umrechnung erfunden und kostenlose GPU-Ressourcen werden nicht angenommen.

i Die Preise ändern sich und können von Level, Region oder Kontextlänge abhängen. Überprüfen Sie die Quelle, bevor Sie eine Entscheidung treffen.

05 / BEWERTUNGEN

So lesen Sie die Ergebnisse

“

Der Anbieter meldet im Mittel 71,8 über drei Entscheidungsindizes. Die Karte nennt 44 ms Median und 420 ms im 95. Perzentil über tausend sequenzielle Anfragen nach dem Laden auf einer B200. Es sind Anbietertests ohne Garantie für Netzwerklatenz oder andere Infrastruktur.

BenchmarkErgebnisMetrikQuelle
Sarvam Prism decision indices average71,8 / 100PunktzahlQuelle öffnen ↗
Sarvam Prism sequential B200 median latency44 msMedian; niedriger ist besserQuelle öffnen ↗

Inferama hebt nur dann ein „bestes Ergebnis“ hervor, wenn Metrik, Testsatz, Konfiguration und Datum einen gleichwertigen Vergleich ermöglichen. Die Zahlen des Lieferanten werden als Angaben aus eigener Quelle dargestellt.

06 / VERSIONEN

Chronologie

Sarvam Prism

In den verifizierten Katalog von Inferama aufgenommene Version.

07 / QUELLEN

Rückverfolgbarkeit