T
TENCENT / tencent/Qwen3.8-27B-DSpine-b16

DSpine for Qwen3.8-27B

Componente da Tencent que propõe tokens em paralelo para acelerar a inferência do Qwen3.8-27B. Tem cinco camadas e cerca de 2.026 milhões de parâmetros BF16; 27B designa o modelo alvo. Os pesos foram publicados em 7 de novembro. Não é um assistente autónomo: o modelo alvo verifica os candidatos antes de os aceitar na saída.

01 / RESUMO

O essencial

ORIENTAÇÃOModelo auxiliar de descodificação especulativa

Uso primário declarado ou inferido com cautela a partir da documentação oficial.

CONTEXTOJanela deslizante de 8.192 tokens no modelo auxiliar

Capacidade máxima de entrada quando publicada pela fonte.

SAÍDABlocos de 16 tokens candidatos; verificação pelo modelo alvo

Limite máximo de geração documentado.

ACESSOHugging Face · exige Qwen3.8-27B

Canais de disponibilidade verificados.

TIPO DE MODELOAceleração da inferência

Família funcional principal e especialidades verificadas.

LICENÇAApache 2.0

Condições declaradas para API, pesos ou alojamento próprio.

02 / FICHA TÉCNICA

Limites e integração

ID de APItencent/Qwen3.8-27B-DSpine-b16
Tipo de modeloAceleração da inferência
Modelo de acessoPesos abertos
LicençaApache 2.0
ImplantaçãoAlojamento próprio
Lançamento07 NOV 2026
Data de corte do conhecimentoNão publicado
EntradaTokens e estados do modelo alvo
SaídaTokens candidatos
Janela de contextoJanela deslizante de 8.192 tokens no modelo auxiliar
saída máximaBlocos de 16 tokens candidatos; verificação pelo modelo alvo
RaciocínioDepende do modelo alvo
Ferramentas publicadasSGLang 0.5.22 · FlashAttention 3 · ReplaySSM
Passeios EstruturadosNão publicado
Processamento em loteNão publicado
Cache de promptsNão publicado
Ajuste finoNão publicado
Plataformas verificadasHugging Face · SGLang 0.5.22
ADEQUA-SE MELHOR A

Integrar descodificação especulativa numa instalação própria do modelo alvo. O código oficial usa SGLang 0.5.22, FlashAttention 3, verificação dinâmica e ReplaySSM. A janela do modelo auxiliar não corresponde ao contexto total do serviço. O exemplo configura 131.072 tokens para o sistema conjunto, com até oito pedidos simultâneos; não é um limite universal de qualquer instalação.

CONVÉM MONITORIZAR

Os resultados dependem do modelo alvo, runtime, precisão e carga. Medições com reprodução de prefixos de decisões sobre ferramentas não demonstram que um agente execute melhor tarefas reais. Não se atribuem ao modelo auxiliar capacidades de conversação, visão, utilização autónoma de ferramentas ou maior exatidão. A ficha não identifica a GPU das tabelas; não permite prometer a mesma aceleração noutro equipamento.

03 / CAPACIDADES

O que pode fazer

01

Orientação

Integrar descodificação especulativa numa instalação própria do modelo alvo. O código oficial usa SGLang 0.5.22, FlashAttention 3, verificação dinâmica e ReplaySSM. A janela do modelo auxiliar não corresponde ao contexto total do serviço. O exemplo configura 131.072 tokens para o sistema conjunto, com até oito pedidos simultâneos; não é um limite universal de qualquer instalação.

02

Contexto

Janela deslizante de 8.192 tokens no modelo auxiliar · Blocos de 16 tokens candidatos; verificação pelo modelo alvo

03

Ferramentas e integração

SGLang 0.5.22 · FlashAttention 3 · ReplaySSM

04

Acesso

Hugging Face · exige Qwen3.8-27B

Modalidades de entrada
Tokens e estados do modelo alvo
04 / PREÇOS

Custo documentado

ConceitoValorUnidade/condição
Entrada padrãoSem tarifa API oficial publicadaTarifa padrão da API
Entrada em cacheNão publicadoLeitura de prefixos reutilizados
Escrita ou armazenamento em cacheNão publicadoA condição varia consoante o fornecedor
Saída padrãoCusto da infraestrutura própriaPode incluir tokens de raciocínio
Entrada por lotesNão publicadoProcessamento assíncrono
Saída por lotesNão publicadoProcessamento assíncrono

A publicação disponibiliza pesos sob Apache 2.0, não uma API comercial com preço por token. A execução também exige o modelo alvo e recursos computacionais. As tarifas desconhecidas continuam por publicar; não são apresentadas como gratuitas nem se calculam poupanças a partir do throughput.

i Os preços mudam e podem depender do nível, região ou duração do contexto. Verifique a fonte antes de tomar uma decisão.

05 / AVALIAÇÕES

Como ler os resultados

“

A Tencent mede o comprimento de aceitação e o throughput do sistema, não a exatidão das respostas. Comunica 7,20 tokens aceites por iteração no GSM8K com temperatura zero. No SWE-bench Pro, com raciocínio low e concorrência oito, indica 713,41 tokens/s contra 241,86 sem especulação, uma razão declarada de 2,95 vezes. O teste reproduz prefixos de decisões sobre ferramentas e permite até 32.768 novos tokens por pedido. A Inferama não reproduziu estas medições.

BenchmarkResultadoMétricaFonte
DSpine Qwen3.8-27B · GSM8K acceptance7,20Tokens aceites por iteraçãoVer fonte ↗
DSpine Qwen3.8-27B · SWE-bench Pro throughput713,41Tokens de saída por segundoVer fonte ↗

O Inferama só destaca o “melhor resultado” quando a métrica, o conjunto de testes, a configuração e a data permitem uma comparação equivalente. Os números do fornecedor são apresentados como declarações de sua própria fonte.

06 / VERSÕES

Cronologia

Qwen3.8-27B-DSpine-b16

Checkpoint auxiliar publicado com pesos BF16; exige o modelo alvo.

07 / FONTES

Rastreabilidade