BENCHMARK DOCUMENTADO

DSpine Qwen3.8-27B · SWE-bench Pro throughput

Resultados publicados e condições declaradas pelas fontes. Os números só são comparáveis quando versão, configuração, métrica e data coincidem.

01 / RESULTADOS

Medições publicadas

ModeloOrganizaçãoResultadoMétricaCondições
DSpine for Qwen3.8-27BTencent713,41Tokens de saída por segundoRaciocínio low, amostragem com temperatura 1, top_p 0,95 e top_k 20, concorrência oito e cache de prefixos. Vinte conversas por subconjunto, com reprodução de prefixos de decisões sobre ferramentas. A referência sem especulação obtém 241,86 tokens/s e a razão declarada é 2,95 vezes. Divide-se a saída total pelo tempo concorrente completo: não é velocidade por utilizador, taxa de resolução ou avaliação independente.
02 / INTERPRETAÇÃO

Antes de comparar

01

Versão exata

Verifique o identificador do modelo, a data e se o alias pode mudar.

02

Configuração equivalente

Verifique ferramentas, esforço, número de tentativas, prompt e orçamento de inferência.

03

Transferência para o seu caso

Valide o resultado com tarefas, idiomas, formatos e erros representativos do seu produto.

03 / MÉTODO

Do indicador a uma decisão reproduzível

Um benchmark público orienta, mas não substitui uma avaliação com os teus dados, ferramentas, orçamento e tolerância ao erro.

01

Identifica a versão exata

Um alias móvel e um snapshot podem produzir resultados diferentes. Regista o modelo, a data e o fornecedor.

02

Reconstrói as condições

O prompt, o raciocínio, as ferramentas, o número de tentativas e o orçamento devem ser equivalentes para comparar.

03

Procura a incerteza

Uma diferença pequena pode desaparecer entre execuções. Conserva amostras, dispersão e falhas, não apenas a média.

04

Verifica a transferência

Valida se a melhoria se mantém em idiomas, formatos e casos reais próximos do teu produto.

Uma métrica só é útil quando conhecemos a tarefa, as condições e o erro que importa. O resultado começa com o desenho do teste.

04 / FONTES

Rastreabilidade