Version exacte
Vérifiez l’identifiant du modèle, la date et si l’alias peut changer.
BENCHMARK DOCUMENTÉ
DSpine Qwen3.8-27B · SWE-bench Pro throughput
Résultats publiés et conditions déclarées par leurs sources. Les chiffres ne sont comparables que si la version, la configuration, la métrique et la date coïncident.
01 / RÉSULTATS
Mesures publiées
| Modèle | Organisation | Résultat | Métrique | Conditions |
|---|---|---|---|---|
| DSpine for Qwen3.8-27B | Tencent | 713,41 | Tokens de sortie par seconde | Raisonnement low, échantillonnage avec température 1, top_p 0,95 et top_k 20, concurrence de huit et cache des préfixes. Vingt conversations par sous-ensemble, avec rejeu des préfixes de décisions d’outils. La référence sans spéculation obtient 241,86 tokens/s et le rapport déclaré est de 2,95. La sortie totale est divisée par toute la durée concurrente : ce n’est ni une vitesse par utilisateur, ni un taux de résolution, ni une évaluation indépendante. |
02 / INTERPRÉTATION
Avant de comparer
Configuration équivalente
Vérifiez les outils, l’effort, le nombre d’essais, le prompt et le budget d’inférence.
Transfert à votre cas
Validez le résultat avec des tâches, langues, formats et erreurs représentatifs de votre produit.
03 / MÉTHODE
Du repère à une décision reproductible
Un benchmark public fournit une orientation, mais ne remplace pas une évaluation avec vos données, outils, budget et tolérance à l’erreur.
Identifiez la version exacte
Un alias mobile et un snapshot peuvent produire des résultats différents. Consignez le modèle, la date et le fournisseur.
Reconstituez les conditions
Le prompt, le raisonnement, les outils, le nombre de tentatives et le budget doivent être équivalents pour comparer.
Recherchez l’incertitude
Une petite différence peut disparaître d’une exécution à l’autre. Conservez les échantillons, la dispersion et les défaillances, pas seulement la moyenne.
Vérifiez le transfert
Validez si l’amélioration se maintient dans différentes langues, formats et cas réels proches de votre produit.
Une métrique n'est utile que lorsque nous connaissons la tâche, les conditions et l'erreur importante. Le résultat commence par la conception du test.
04 / SOURCES