Exakte Version
Prüfe Modellkennung, Datum und ob sich der Alias ändern kann.
DOKUMENTIERTER BENCHMARK
GIFT-Eval CRPS
Veröffentlichte Ergebnisse und von den Quellen angegebene Bedingungen. Zahlen sind nur vergleichbar, wenn Version, Konfiguration, Metrik und Datum übereinstimmen.
01 / ERGEBNISSE
Veröffentlichte Messungen
| Modell | Organisation | Ergebnis | Metrik | Bedingungen |
|---|---|---|---|---|
| Timestral 5M | Mistral AI | 0,479 | Niedriger ist besser | Von Mistral je Checkpoint gemeldete, von Inferama nicht reproduzierte Metriken. Niedrigere MASE- und CRPS-Werte sind besser; höhere fev-bench-Skill-Scores sind besser. Keine Genauigkeitsprozente oder Gesprächstests. Der technische Bericht steht noch aus. |
| Timestral 28M | Mistral AI | 0,461 | Niedriger ist besser | Von Mistral je Checkpoint gemeldete, von Inferama nicht reproduzierte Metriken. Niedrigere MASE- und CRPS-Werte sind besser; höhere fev-bench-Skill-Scores sind besser. Keine Genauigkeitsprozente oder Gesprächstests. Der technische Bericht steht noch aus. |
| Timestral 123M | Mistral AI | 0,448 | Niedriger ist besser | Von Mistral je Checkpoint gemeldete, von Inferama nicht reproduzierte Metriken. Niedrigere MASE- und CRPS-Werte sind besser; höhere fev-bench-Skill-Scores sind besser. Keine Genauigkeitsprozente oder Gesprächstests. Der technische Bericht steht noch aus. |
| Timestral 209M | Mistral AI | 0,446 | Niedriger ist besser | Von Mistral je Checkpoint gemeldete, von Inferama nicht reproduzierte Metriken. Niedrigere MASE- und CRPS-Werte sind besser; höhere fev-bench-Skill-Scores sind besser. Keine Genauigkeitsprozente oder Gesprächstests. Der technische Bericht steht noch aus. |
| Granite Timeseries Ensemble R1 | IBM | 0,4707 | Normalisierter CRPS/MWQL | IBM · linear_pool · 97 Konfigurationen · Platzierungen am 28. September 2026 · niedriger ist besser. |
| Granite Timeseries Ensemble R1 | IBM | 0,4700 | Normalisierter CRPS/MWQL | IBM · iqr_weighted · 97 Konfigurationen · Platzierungen am 28. September 2026 · niedriger ist besser. |
02 / INTERPRETATION
Vor dem Vergleichen
Gleichwertige Konfiguration
Prüfe Werkzeuge, Aufwand, Anzahl der Versuche, Prompt und Inferenzbudget.
Übertragung auf deinen Anwendungsfall
Validiere das Ergebnis mit Aufgaben, Sprachen, Formaten und Fehlern, die für dein Produkt repräsentativ sind.
03 / VERFAHREN
Vom Indikator zu einer reproduzierbaren Entscheidung
Ein öffentlicher Benchmark bietet Orientierung, ersetzt jedoch keine Bewertung mit deinen Daten, Tools, deinem Budget und deiner Fehlertoleranz.
Identifiziere die genaue Version
Ein beweglicher Alias und ein Snapshot können unterschiedliche Ergebnisse liefern. Erfasse Modell, Datum und Anbieter.
Rekonstruiere die Bedingungen
Prompt, Reasoning, Tools, Anzahl der Versuche und Budget müssen für einen Vergleich gleichwertig sein.
Suche nach Unsicherheit
Ein kleiner Unterschied kann zwischen Ausführungen verschwinden. Bewahre Stichproben, Streuung und Fehler auf, nicht nur den Mittelwert.
Prüfe die Übertragbarkeit
Validiere, ob die Verbesserung über Sprachen, Formate und reale Fälle hinweg Bestand hat, die deinem Produkt nahekommen.
Eine Metrik ist nur dann nützlich, wenn wir die Aufgabe, die Bedingungen und den Fehler kennen, auf die es ankommt. Das Ergebnis beginnt bereits bei der Gestaltung des Tests.
04 / QUELLEN