T
TENCENT / tencent/Qwen3.8-27B-DSpine-b16

DSpine for Qwen3.8-27B

Tencent-Komponente, die Token parallel vorschlägt, um die Inferenz von Qwen3.8-27B zu beschleunigen. Sie hat fünf Schichten und etwa 2,026 Milliarden BF16-Parameter; 27B bezeichnet das Zielmodell. Die Gewichte wurden am 7. November veröffentlicht. Sie ist kein eigenständiger Assistent: Das Zielmodell prüft die Kandidaten, bevor es sie in die Ausgabe übernimmt.

01 / ZUSAMMENFASSUNG

Das Wesentliche

ORIENTIERUNGDraft-Modell für spekulative Dekodierung

Primäre Verwendung angegeben oder vorsichtig aus offizieller Dokumentation abgeleitet.

KONTEXTGleitendes Fenster mit 8.192 Token im Draft

Maximale Eingabekapazität bei Veröffentlichung durch die Quelle.

AUSFAHRTBlöcke mit 16 Tokenkandidaten; Prüfung durch das Zielmodell

Dokumentierte maximale Erzeugungsgrenze.

ZUGANGHugging Face · benötigt Qwen3.8-27B

Verifizierte Verfügbarkeitskanäle.

MODELLTYPInferenzbeschleunigung

Primäre Funktionsfamilie und verifizierte Spezialisierungen.

LIZENZApache 2.0

Deklarierte Bedingungen für API, Gewichte oder Self-Hosting.

02 / TECHNISCHES DATENBLATT

Limits und Integration

API-IDtencent/Qwen3.8-27B-DSpine-b16
ModelltypInferenzbeschleunigung
ZugangsmodellOffene Gewichte
LizenzApache 2.0
EinsatzSelbst gehostet
Veröffentlichung07 NOV 2026
WissensstichtagNicht veröffentlicht
EingangToken und Zustände des Zielmodells
AusfahrtToken-Kandidaten
KontextfensterGleitendes Fenster mit 8.192 Token im Draft
maximale LeistungBlöcke mit 16 Tokenkandidaten; Prüfung durch das Zielmodell
SchlussfolgernHängt vom Zielmodell ab
Veröffentlichte ToolsSGLang 0.5.22 · FlashAttention 3 · ReplaySSM
Strukturierte AusflügeNicht veröffentlicht
StapelverarbeitungNicht veröffentlicht
Prompt-CacheNicht veröffentlicht
FeinabstimmungNicht veröffentlicht
Verifizierte PlattformenHugging Face · SGLang 0.5.22
EIGNET SICH BESSER FÜR

Integration spekulativer Dekodierung in eine selbst betriebene Bereitstellung des Zielmodells. Der offizielle Code verwendet SGLang 0.5.22, FlashAttention 3, dynamische Verifikation und ReplaySSM. Das Draft-Fenster ist nicht der Gesamtkontext des Dienstes. Das Beispiel konfiguriert 131.072 Token für das kombinierte System bei bis zu acht gleichzeitigen Anfragen; dies ist keine allgemeine Grenze jeder Installation.

SOLLTE BEOBACHTET WERDEN

Die Ergebnisse hängen von Zielmodell, Laufzeit, Präzision und Last ab. Messungen mit wiedergegebenen Präfixen von Werkzeugentscheidungen belegen nicht, dass ein Agent reale Aufgaben besser löst. Dem Draft werden weder Gesprächsfähigkeiten, Bildverarbeitung, autonome Werkzeugnutzung noch höhere Genauigkeit zugeschrieben. Die Modellkarte nennt die GPU der Tabellen nicht; dieselbe Beschleunigung auf anderer Hardware lässt sich daraus nicht versprechen.

03 / FÄHIGKEITEN

Was es kann

01

Orientierung

Integration spekulativer Dekodierung in eine selbst betriebene Bereitstellung des Zielmodells. Der offizielle Code verwendet SGLang 0.5.22, FlashAttention 3, dynamische Verifikation und ReplaySSM. Das Draft-Fenster ist nicht der Gesamtkontext des Dienstes. Das Beispiel konfiguriert 131.072 Token für das kombinierte System bei bis zu acht gleichzeitigen Anfragen; dies ist keine allgemeine Grenze jeder Installation.

02

Kontext

Gleitendes Fenster mit 8.192 Token im Draft · Blöcke mit 16 Tokenkandidaten; Prüfung durch das Zielmodell

03

Tools und Integration

SGLang 0.5.22 · FlashAttention 3 · ReplaySSM

04

Zugang

Hugging Face · benötigt Qwen3.8-27B

Eingabemodalitäten
Token und Zustände des Zielmodells
04 / PREISE

Dokumentierte Kosten

KonzeptWertEinheit/Zustand
StandardeingabeKein offizieller API-Preis veröffentlichtStandardtarif der API
Eingabe aus dem CacheNicht veröffentlichtLesen wiederverwendeter Präfixe
Schreiben oder Speichern im CacheNicht veröffentlichtDie Bedingung variiert je nach Anbieter
StandardausgabeKosten der eigenen InfrastrukturKann Reasoning-Tokens enthalten
Batch-EingabeNicht veröffentlichtAsynchrone Verarbeitung
Batch-AusgabeNicht veröffentlichtAsynchrone Verarbeitung

Die Veröffentlichung stellt Gewichte unter Apache 2.0 bereit, keine kommerzielle API mit Tokenpreisen. Für den Betrieb werden auch das Zielmodell und Rechenressourcen benötigt. Unbekannte Tarife bleiben unveröffentlicht; sie werden nicht als kostenlos dargestellt, und aus dem Durchsatz werden keine Kosteneinsparungen berechnet.

i Die Preise ändern sich und können von Level, Region oder Kontextlänge abhängen. Überprüfen Sie die Quelle, bevor Sie eine Entscheidung treffen.

05 / BEWERTUNGEN

So lesen Sie die Ergebnisse

“

Tencent misst Akzeptanzlänge und Systemdurchsatz, nicht die Antwortgenauigkeit. Für GSM8K werden bei Temperatur null 7,20 akzeptierte Token pro Iteration angegeben. Bei SWE-bench Pro mit Reasoning low und acht gleichzeitigen Anfragen werden 713,41 Token/s gegenüber 241,86 ohne Spekulation berichtet, ein angegebenes Verhältnis von 2,95. Der Test spielt Präfixe von Werkzeugentscheidungen erneut ab und erlaubt bis zu 32.768 neue Token pro Anfrage. Inferama hat diese Messungen nicht reproduziert.

BenchmarkErgebnisMetrikQuelle
DSpine Qwen3.8-27B · GSM8K acceptance7,20Akzeptierte Token pro IterationQuelle öffnen ↗
DSpine Qwen3.8-27B · SWE-bench Pro throughput713,41Ausgabe-Token pro SekundeQuelle öffnen ↗

Inferama hebt nur dann ein „bestes Ergebnis“ hervor, wenn Metrik, Testsatz, Konfiguration und Datum einen gleichwertigen Vergleich ermöglichen. Die Zahlen des Lieferanten werden als Angaben aus eigener Quelle dargestellt.

06 / VERSIONEN

Chronologie

Qwen3.8-27B-DSpine-b16

Hilfscheckpoint mit BF16-Gewichten veröffentlicht; benötigt das Zielmodell.

07 / QUELLEN

Rückverfolgbarkeit