Utilisation principale déclarée ou déduite avec prudence de la documentation officielle.
T
TENCENT / tencent/Qwen3.8-27B-DSpine-b16
DSpine for Qwen3.8-27B
Composant de Tencent qui propose des tokens en parallèle pour accélérer l’inférence de Qwen3.8-27B. Il possède cinq couches et environ 2,026 milliards de paramètres BF16 ; 27B désigne le modèle cible. Les poids ont été publiés le 7 novembre. Ce n’est pas un assistant autonome : le modèle cible vérifie les candidats avant de les accepter dans la sortie.
01 / RÉSUMÉ
L'essentiel
Capacité d'entrée maximale une fois publiée par la source.
Limite de génération maximale documentée.
Canaux de disponibilité vérifiés.
Famille fonctionnelle principale et spécialités vérifiées.
Conditions déclarées pour l’API, les poids ou l’auto-hébergement.
02 / FICHE TECHNIQUE
Limites et intégration
| ID d’API | tencent/Qwen3.8-27B-DSpine-b16 |
|---|---|
| Type de modèle | Accélération de l’inférence |
| Mode d’accès | Poids ouverts |
| Licence | Apache 2.0 |
| Déploiement | Auto-hébergement |
| Lancement | 07 NOV 2026 |
| Date limite des connaissances | Non publié |
| Entrée | Tokens et états du modèle cible |
| Sortie | Tokens candidats |
| Fenêtre contextuelle | Fenêtre glissante de 8 192 tokens dans le brouillon |
| puissance maximale | Blocs de 16 tokens candidats ; vérification par le modèle cible |
| Raisonnement | Dépend du modèle cible |
| Outils publiés | SGLang 0.5.22 · FlashAttention 3 · ReplaySSM |
| Sorties structurées | Non publié |
| Traitement par lots | Non publié |
| Cache de prompts | Non publié |
| Ajustement fin | Non publié |
| Plateformes vérifiées | Hugging Face · SGLang 0.5.22 |
Intégrer le décodage spéculatif dans un déploiement autohébergé du modèle cible. Le code officiel utilise SGLang 0.5.22, FlashAttention 3, la vérification dynamique et ReplaySSM. La fenêtre du brouillon n’est pas le contexte total du service. L’exemple configure 131 072 tokens pour le système combiné, avec jusqu’à huit requêtes simultanées ; ce n’est pas une limite universelle pour toute installation.
Les résultats dépendent du modèle cible, du runtime, de la précision et de la charge. Des mesures rejouant des préfixes de décisions d’outils ne prouvent pas qu’un agent accomplit mieux des tâches réelles. On n’attribue au brouillon ni conversation, ni vision, ni usage autonome d’outils, ni gain d’exactitude. La fiche n’identifie pas le GPU des tableaux : elle ne permet pas de promettre la même accélération sur un autre matériel.
03 / CAPACITÉS
Ce qu’il peut faire
Orientation
Intégrer le décodage spéculatif dans un déploiement autohébergé du modèle cible. Le code officiel utilise SGLang 0.5.22, FlashAttention 3, la vérification dynamique et ReplaySSM. La fenêtre du brouillon n’est pas le contexte total du service. L’exemple configure 131 072 tokens pour le système combiné, avec jusqu’à huit requêtes simultanées ; ce n’est pas une limite universelle pour toute installation.
Contexte
Fenêtre glissante de 8 192 tokens dans le brouillon · Blocs de 16 tokens candidats ; vérification par le modèle cible
Outils et intégration
SGLang 0.5.22 · FlashAttention 3 · ReplaySSM
Accès
Hugging Face · nécessite Qwen3.8-27B
Modalités d’entrée
Tokens et états du modèle cible
04 / TARIFS
Coût documenté
| Concept | Valeur | Unité/état |
|---|---|---|
| Entrée standard | Aucun tarif API officiel publié | Tarif API standard |
| Entrée en cache | Non publié | Lecture de préfixes réutilisés |
| Écriture ou stockage de cache | Non publié | La condition varie selon le fournisseur |
| Sortie standard | Coût de l’infrastructure propre | Peut inclure des tokens de raisonnement |
| Entrée par lots | Non publié | Traitement asynchrone |
| Sortie par lots | Non publié | Traitement asynchrone |
La publication fournit des poids sous Apache 2.0, pas une API commerciale tarifée au token. Leur exécution nécessite aussi le modèle cible et des ressources de calcul. Les tarifs inconnus restent non publiés ; ils ne sont pas présentés comme gratuits et aucun gain financier n’est calculé à partir du débit.
i Les prix changent et peuvent dépendre du niveau, de la région ou de la durée du contexte. Vérifiez la source avant de prendre une décision.
05 / ÉVALUATIONS
Comment lire les résultats
“
Tencent mesure la longueur d’acceptation et le débit du système, pas l’exactitude des réponses. Il annonce 7,20 tokens acceptés par itération sur GSM8K à température nulle. Sur SWE-bench Pro, avec un raisonnement low et une concurrence de huit, il rapporte 713,41 tokens/s contre 241,86 sans spéculation, soit un rapport déclaré de 2,95. Le test rejoue des préfixes de décisions d’outils et autorise jusqu’à 32 768 nouveaux tokens par requête. Inferama n’a pas reproduit ces mesures.
| Benchmark | Résultat | Métrique | Source |
|---|---|---|---|
| DSpine Qwen3.8-27B · GSM8K acceptance | 7,20 | Tokens acceptés par itération | Voir la source ↗ |
| DSpine Qwen3.8-27B · SWE-bench Pro throughput | 713,41 | Tokens de sortie par seconde | Voir la source ↗ |
Inferama ne met en évidence un « meilleur résultat » que lorsque la métrique, l'ensemble de test, la configuration et la date permettent une comparaison équivalente. Les chiffres du fournisseur sont présentés comme des affirmations provenant de sa propre source.
06 / VERSIONS
Chronologie
Qwen3.8-27B-DSpine-b16
Checkpoint auxiliaire publié avec des poids BF16 ; nécessite le modèle cible.
07 / SOURCES
Traçabilité
FICHE TECHNIQUEFiche officielle du checkpoint · révision figéehuggingface.co↗
IMPLÉMENTATIONCode officiel et intégration du modèle ciblegithub.com↗
CONFIGURATIONConfiguration officielle du modèle brouillonhuggingface.co↗
DISPONIBILIDADPoids et fichiers de la révision vérifiéehuggingface.co↗
LICENCELicence Apache 2.0 du projetgithub.com↗