Primäre Verwendung angegeben oder vorsichtig aus offizieller Dokumentation abgeleitet.
DSpine for Qwen3.8-27B
Tencent-Komponente, die Token parallel vorschlägt, um die Inferenz von Qwen3.8-27B zu beschleunigen. Sie hat fünf Schichten und etwa 2,026 Milliarden BF16-Parameter; 27B bezeichnet das Zielmodell. Die Gewichte wurden am 7. November veröffentlicht. Sie ist kein eigenständiger Assistent: Das Zielmodell prüft die Kandidaten, bevor es sie in die Ausgabe übernimmt.
Das Wesentliche
Maximale Eingabekapazität bei Veröffentlichung durch die Quelle.
Dokumentierte maximale Erzeugungsgrenze.
Verifizierte Verfügbarkeitskanäle.
Primäre Funktionsfamilie und verifizierte Spezialisierungen.
Deklarierte Bedingungen für API, Gewichte oder Self-Hosting.
Limits und Integration
| API-ID | tencent/Qwen3.8-27B-DSpine-b16 |
|---|---|
| Modelltyp | Inferenzbeschleunigung |
| Zugangsmodell | Offene Gewichte |
| Lizenz | Apache 2.0 |
| Einsatz | Selbst gehostet |
| Veröffentlichung | 07 NOV 2026 |
| Wissensstichtag | Nicht veröffentlicht |
| Eingang | Token und Zustände des Zielmodells |
| Ausfahrt | Token-Kandidaten |
| Kontextfenster | Gleitendes Fenster mit 8.192 Token im Draft |
| maximale Leistung | Blöcke mit 16 Tokenkandidaten; Prüfung durch das Zielmodell |
| Schlussfolgern | Hängt vom Zielmodell ab |
| Veröffentlichte Tools | SGLang 0.5.22 · FlashAttention 3 · ReplaySSM |
| Strukturierte Ausflüge | Nicht veröffentlicht |
| Stapelverarbeitung | Nicht veröffentlicht |
| Prompt-Cache | Nicht veröffentlicht |
| Feinabstimmung | Nicht veröffentlicht |
| Verifizierte Plattformen | Hugging Face · SGLang 0.5.22 |
Integration spekulativer Dekodierung in eine selbst betriebene Bereitstellung des Zielmodells. Der offizielle Code verwendet SGLang 0.5.22, FlashAttention 3, dynamische Verifikation und ReplaySSM. Das Draft-Fenster ist nicht der Gesamtkontext des Dienstes. Das Beispiel konfiguriert 131.072 Token für das kombinierte System bei bis zu acht gleichzeitigen Anfragen; dies ist keine allgemeine Grenze jeder Installation.
Die Ergebnisse hängen von Zielmodell, Laufzeit, Präzision und Last ab. Messungen mit wiedergegebenen Präfixen von Werkzeugentscheidungen belegen nicht, dass ein Agent reale Aufgaben besser löst. Dem Draft werden weder Gesprächsfähigkeiten, Bildverarbeitung, autonome Werkzeugnutzung noch höhere Genauigkeit zugeschrieben. Die Modellkarte nennt die GPU der Tabellen nicht; dieselbe Beschleunigung auf anderer Hardware lässt sich daraus nicht versprechen.
Was es kann
Orientierung
Integration spekulativer Dekodierung in eine selbst betriebene Bereitstellung des Zielmodells. Der offizielle Code verwendet SGLang 0.5.22, FlashAttention 3, dynamische Verifikation und ReplaySSM. Das Draft-Fenster ist nicht der Gesamtkontext des Dienstes. Das Beispiel konfiguriert 131.072 Token für das kombinierte System bei bis zu acht gleichzeitigen Anfragen; dies ist keine allgemeine Grenze jeder Installation.
Kontext
Gleitendes Fenster mit 8.192 Token im Draft · Blöcke mit 16 Tokenkandidaten; Prüfung durch das Zielmodell
Tools und Integration
SGLang 0.5.22 · FlashAttention 3 · ReplaySSM
Zugang
Hugging Face · benötigt Qwen3.8-27B
Dokumentierte Kosten
| Konzept | Wert | Einheit/Zustand |
|---|---|---|
| Standardeingabe | Kein offizieller API-Preis veröffentlicht | Standardtarif der API |
| Eingabe aus dem Cache | Nicht veröffentlicht | Lesen wiederverwendeter Präfixe |
| Schreiben oder Speichern im Cache | Nicht veröffentlicht | Die Bedingung variiert je nach Anbieter |
| Standardausgabe | Kosten der eigenen Infrastruktur | Kann Reasoning-Tokens enthalten |
| Batch-Eingabe | Nicht veröffentlicht | Asynchrone Verarbeitung |
| Batch-Ausgabe | Nicht veröffentlicht | Asynchrone Verarbeitung |
Die Veröffentlichung stellt Gewichte unter Apache 2.0 bereit, keine kommerzielle API mit Tokenpreisen. Für den Betrieb werden auch das Zielmodell und Rechenressourcen benötigt. Unbekannte Tarife bleiben unveröffentlicht; sie werden nicht als kostenlos dargestellt, und aus dem Durchsatz werden keine Kosteneinsparungen berechnet.
i Die Preise ändern sich und können von Level, Region oder Kontextlänge abhängen. Überprüfen Sie die Quelle, bevor Sie eine Entscheidung treffen.
So lesen Sie die Ergebnisse
Tencent misst Akzeptanzlänge und Systemdurchsatz, nicht die Antwortgenauigkeit. Für GSM8K werden bei Temperatur null 7,20 akzeptierte Token pro Iteration angegeben. Bei SWE-bench Pro mit Reasoning low und acht gleichzeitigen Anfragen werden 713,41 Token/s gegenüber 241,86 ohne Spekulation berichtet, ein angegebenes Verhältnis von 2,95. Der Test spielt Präfixe von Werkzeugentscheidungen erneut ab und erlaubt bis zu 32.768 neue Token pro Anfrage. Inferama hat diese Messungen nicht reproduziert.
| Benchmark | Ergebnis | Metrik | Quelle |
|---|---|---|---|
| DSpine Qwen3.8-27B · GSM8K acceptance | 7,20 | Akzeptierte Token pro Iteration | Quelle öffnen ↗ |
| DSpine Qwen3.8-27B · SWE-bench Pro throughput | 713,41 | Ausgabe-Token pro Sekunde | Quelle öffnen ↗ |
Inferama hebt nur dann ein „bestes Ergebnis“ hervor, wenn Metrik, Testsatz, Konfiguration und Datum einen gleichwertigen Vergleich ermöglichen. Die Zahlen des Lieferanten werden als Angaben aus eigener Quelle dargestellt.
Chronologie
Qwen3.8-27B-DSpine-b16
Hilfscheckpoint mit BF16-Gewichten veröffentlicht; benötigt das Zielmodell.