B
BYTEDANCE SEED / ByteDance-Seed/Cross-Layer-TopK-CLT

Cross-Layer TopK CLT

Transcodificador esparso da ByteDance Seed para estudar Qwen3-8B-Base. Lê o fluxo residual antes dos MLP e aproxima as saídas usando características entre camadas. A revisão verificada contém os 36 codificadores e 36 descodificadores; o carregamento terminou a 5 de novembro.

01 / RESUMO

O essencial

ORIENTAÇÃOTranscodificador entre camadas

Uso primário declarado ou inferido com cautela a partir da documentação oficial.

CONTEXTO36 camadas e 32.768 características por camada

Capacidade máxima de entrada quando publicada pela fonte.

SAÍDA360 características ativas por token entre todas as camadas

Limite máximo de geração documentado.

ACESSOHugging Face · checkpoint descarregável

Canais de disponibilidade verificados.

TIPO DE MODELOInterpretabilidade

Família funcional principal e especialidades verificadas.

LICENÇAApache 2.0

Condições declaradas para API, pesos ou alojamento próprio.

02 / FICHA TÉCNICA

Limites e integração

ID de APIByteDance-Seed/Cross-Layer-TopK-CLT
Tipo de modeloInterpretabilidade
Modelo de acessoPesos abertos
LicençaApache 2.0
ImplantaçãoAlojamento próprio
Lançamento05 NOV 2026
Data de corte do conhecimentoNão publicado
EntradaAtivações internas
SaídaCaracterísticas latentes · Ativações reconstruídas
Janela de contexto36 camadas e 32.768 características por camada
saída máxima360 características ativas por token entre todas as camadas
RaciocínioNão publicado
Ferramentas publicadas
Passeios EstruturadosNão publicado
Processamento em loteNão publicado
Cache de promptsNão publicado
Ajuste finoNão publicado
Plataformas verificadasHugging Face · PyTorch
ADEQUA-SE MELHOR A

Analisar ativações e reconstruir contribuições de camadas de um modelo base fixo. É um componente de investigação: não recebe texto como API de conversação, não gera respostas e as características internas não são embeddings de pesquisa.

CONVÉM MONITORIZAR

O conjunto completo ocupa cerca de 377 GB em FP32 e contém 94,2 mil milhões de parâmetros. A configuração e os fatores de escala devem corresponder à revisão. O exemplo só de codificação omite descodificadores e não demonstra que o conjunto caiba numa GPU.

03 / CAPACIDADES

O que pode fazer

01

Orientação

Analisar ativações e reconstruir contribuições de camadas de um modelo base fixo. É um componente de investigação: não recebe texto como API de conversação, não gera respostas e as características internas não são embeddings de pesquisa.

02

Contexto

36 camadas e 32.768 características por camada · 360 características ativas por token entre todas as camadas

03

Ferramentas e integração

Não publicado

04

Acesso

Hugging Face · checkpoint descarregável

Modalidades de entrada
Ativações internas
04 / PREÇOS

Custo documentado

ConceitoValorUnidade/condição
Entrada padrãoSem tarifa API oficial publicadaTarifa padrão da API
Entrada em cacheNão publicadoLeitura de prefixos reutilizados
Escrita ou armazenamento em cacheNão publicadoA condição varia consoante o fornecedor
Saída padrãoCusto da infraestrutura própriaPode incluir tokens de raciocínio
Entrada por lotesNão publicadoProcessamento assíncrono
Saída por lotesNão publicadoProcessamento assíncrono

Não foi verificada uma API comercial alojada para este checkpoint. Descarregar os pesos não cobre armazenamento, aceleradores, memória ou operação.

i Os preços mudam e podem depender do nível, região ou duração do contexto. Verifique a fonte antes de tomar uma decisão.

05 / AVALIAÇÕES

Como ler os resultados

“

A ficha documenta codificação e reconstrução sem uma pontuação numérica verificada para este checkpoint. Uma avaliação própria deve fixar o modelo base e medir erro de reconstrução e sensibilidade à ablação. Tamanho dos ficheiros e esparsidade não são métricas de qualidade.

i Sem pontuação numérica verificada para a versão exata.

O Inferama só destaca o “melhor resultado” quando a métrica, o conjunto de testes, a configuração e a data permitem uma comparação equivalente. Os números do fornecedor são apresentados como declarações de sua própria fonte.

06 / VERSÕES

Cronologia

Cross-Layer TopK CLT

Versão incorporada no catálogo verificado da Inferama.

07 / FONTES

Rastreabilidade