Version exacte
Vérifiez l’identifiant du modèle, la date et si l’alias peut changer.
BENCHMARK DOCUMENTÉ
fev-bench SQL skill score
Résultats publiés et conditions déclarées par leurs sources. Les chiffres ne sont comparables que si la version, la configuration, la métrique et la date coïncident.
01 / RÉSULTATS
Mesures publiées
| Modèle | Organisation | Résultat | Métrique | Conditions |
|---|---|---|---|---|
| Timestral 5M | Mistral AI | 46,19 | Plus haut est meilleur | Métriques déclarées par Mistral pour chaque checkpoint, non reproduites par Inferama. MASE et CRPS : plus bas est meilleur ; skill scores de fev-bench : plus haut est meilleur. Ce ne sont ni des pourcentages d’exactitude ni des tests de conversation. Le rapport technique reste à paraître. |
| Timestral 28M | Mistral AI | 48,42 | Plus haut est meilleur | Métriques déclarées par Mistral pour chaque checkpoint, non reproduites par Inferama. MASE et CRPS : plus bas est meilleur ; skill scores de fev-bench : plus haut est meilleur. Ce ne sont ni des pourcentages d’exactitude ni des tests de conversation. Le rapport technique reste à paraître. |
| Timestral 123M | Mistral AI | 50,18 | Plus haut est meilleur | Métriques déclarées par Mistral pour chaque checkpoint, non reproduites par Inferama. MASE et CRPS : plus bas est meilleur ; skill scores de fev-bench : plus haut est meilleur. Ce ne sont ni des pourcentages d’exactitude ni des tests de conversation. Le rapport technique reste à paraître. |
| Timestral 209M | Mistral AI | 50,39 | Plus haut est meilleur | Métriques déclarées par Mistral pour chaque checkpoint, non reproduites par Inferama. MASE et CRPS : plus bas est meilleur ; skill scores de fev-bench : plus haut est meilleur. Ce ne sont ni des pourcentages d’exactitude ni des tests de conversation. Le rapport technique reste à paraître. |
02 / INTERPRÉTATION
Avant de comparer
Configuration équivalente
Vérifiez les outils, l’effort, le nombre d’essais, le prompt et le budget d’inférence.
Transfert à votre cas
Validez le résultat avec des tâches, langues, formats et erreurs représentatifs de votre produit.
03 / MÉTHODE
Du repère à une décision reproductible
Un benchmark public fournit une orientation, mais ne remplace pas une évaluation avec vos données, outils, budget et tolérance à l’erreur.
Identifiez la version exacte
Un alias mobile et un snapshot peuvent produire des résultats différents. Consignez le modèle, la date et le fournisseur.
Reconstituez les conditions
Le prompt, le raisonnement, les outils, le nombre de tentatives et le budget doivent être équivalents pour comparer.
Recherchez l’incertitude
Une petite différence peut disparaître d’une exécution à l’autre. Conservez les échantillons, la dispersion et les défaillances, pas seulement la moyenne.
Vérifiez le transfert
Validez si l’amélioration se maintient dans différentes langues, formats et cas réels proches de votre produit.
Une métrique n'est utile que lorsque nous connaissons la tâche, les conditions et l'erreur importante. Le résultat commence par la conception du test.
04 / SOURCES