Uso primário declarado ou inferido com cautela a partir da documentação oficial.
Cross-Layer TopK CLT
Transcodificador esparso da ByteDance Seed para estudar Qwen3-8B-Base. Lê o fluxo residual antes dos MLP e aproxima as saídas usando características entre camadas. A revisão verificada contém os 36 codificadores e 36 descodificadores; o carregamento terminou a 5 de novembro.
O essencial
Capacidade máxima de entrada quando publicada pela fonte.
Limite máximo de geração documentado.
Canais de disponibilidade verificados.
Família funcional principal e especialidades verificadas.
Condições declaradas para API, pesos ou alojamento próprio.
Limites e integração
| ID de API | ByteDance-Seed/Cross-Layer-TopK-CLT |
|---|---|
| Tipo de modelo | Interpretabilidade |
| Modelo de acesso | Pesos abertos |
| Licença | Apache 2.0 |
| Implantação | Alojamento próprio |
| Lançamento | 05 NOV 2026 |
| Data de corte do conhecimento | Não publicado |
| Entrada | Ativações internas |
| Saída | Características latentes · Ativações reconstruídas |
| Janela de contexto | 36 camadas e 32.768 características por camada |
| saída máxima | 360 características ativas por token entre todas as camadas |
| Raciocínio | Não publicado |
| Ferramentas publicadas | |
| Passeios Estruturados | Não publicado |
| Processamento em lote | Não publicado |
| Cache de prompts | Não publicado |
| Ajuste fino | Não publicado |
| Plataformas verificadas | Hugging Face · PyTorch |
Analisar ativações e reconstruir contribuições de camadas de um modelo base fixo. É um componente de investigação: não recebe texto como API de conversação, não gera respostas e as características internas não são embeddings de pesquisa.
O conjunto completo ocupa cerca de 377 GB em FP32 e contém 94,2 mil milhões de parâmetros. A configuração e os fatores de escala devem corresponder à revisão. O exemplo só de codificação omite descodificadores e não demonstra que o conjunto caiba numa GPU.
O que pode fazer
Orientação
Analisar ativações e reconstruir contribuições de camadas de um modelo base fixo. É um componente de investigação: não recebe texto como API de conversação, não gera respostas e as características internas não são embeddings de pesquisa.
Contexto
36 camadas e 32.768 características por camada · 360 características ativas por token entre todas as camadas
Ferramentas e integração
Não publicado
Acesso
Hugging Face · checkpoint descarregável
Custo documentado
| Conceito | Valor | Unidade/condição |
|---|---|---|
| Entrada padrão | Sem tarifa API oficial publicada | Tarifa padrão da API |
| Entrada em cache | Não publicado | Leitura de prefixos reutilizados |
| Escrita ou armazenamento em cache | Não publicado | A condição varia consoante o fornecedor |
| Saída padrão | Custo da infraestrutura própria | Pode incluir tokens de raciocínio |
| Entrada por lotes | Não publicado | Processamento assíncrono |
| Saída por lotes | Não publicado | Processamento assíncrono |
Não foi verificada uma API comercial alojada para este checkpoint. Descarregar os pesos não cobre armazenamento, aceleradores, memória ou operação.
i Os preços mudam e podem depender do nível, região ou duração do contexto. Verifique a fonte antes de tomar uma decisão.
Como ler os resultados
A ficha documenta codificação e reconstrução sem uma pontuação numérica verificada para este checkpoint. Uma avaliação própria deve fixar o modelo base e medir erro de reconstrução e sensibilidade à ablação. Tamanho dos ficheiros e esparsidade não são métricas de qualidade.
i Sem pontuação numérica verificada para a versão exata.
O Inferama só destaca o “melhor resultado” quando a métrica, o conjunto de testes, a configuração e a data permitem uma comparação equivalente. Os números do fornecedor são apresentados como declarações de sua própria fonte.
Cronologia
Cross-Layer TopK CLT
Versão incorporada no catálogo verificado da Inferama.