Uso primário declarado ou inferido com cautela a partir da documentação oficial.
B
BYTEDANCE SEED / ByteDance-Seed/Qwen3-30B-A3B-MoE-SAE
Qwen3-30B-A3B MoE-Output SAE
Três autocodificadores TopK da ByteDance Seed analisam saídas de blocos MoE de Qwen3-30B-A3B. Os pesos e o trabalho técnico são de 5 de novembro. Cada camada tem um checkpoint com 1.048.576 características latentes, selecionando até 100 por token.
01 / RESUMO
O essencial
Capacidade máxima de entrada quando publicada pela fonte.
Limite máximo de geração documentado.
Canais de disponibilidade verificados.
Família funcional principal e especialidades verificadas.
Condições declaradas para API, pesos ou alojamento próprio.
02 / FICHA TÉCNICA
Limites e integração
| ID de API | ByteDance-Seed/Qwen3-30B-A3B-MoE-SAE |
|---|---|
| Tipo de modelo | Interpretabilidade |
| Modelo de acesso | Pesos abertos |
| Licença | Apache 2.0 |
| Implantação | Alojamento próprio |
| Lançamento | 05 NOV 2026 |
| Data de corte do conhecimento | Não publicado |
| Entrada | Ativações internas |
| Saída | Características latentes · Ativações reconstruídas |
| Janela de contexto | Camadas 4, 30 e 46 do Qwen3-30B-A3B |
| saída máxima | 100 características ativas por token e por autocodificador |
| Raciocínio | Não publicado |
| Ferramentas publicadas | |
| Passeios Estruturados | Não publicado |
| Processamento em lote | Não publicado |
| Cache de prompts | Não publicado |
| Ajuste fino | Não publicado |
| Plataformas verificadas | Hugging Face · PyTorch |
Estudar quais os especialistas que contribuem para características concretas e quantificar o erro de reconstrução de ativações. Os três checkpoints por camada partilham uma ficha. Não substituem o modelo base, não geram texto nem fornecem embeddings de documentos.
Cada ficheiro FP32 ocupa cerca de 17,2 GB além da memória do modelo base. As camadas não partilham um espaço latente intercambiável. Entradas longas podem exigir segmentação. As atribuições observadas, por si só, não demonstram causalidade.
03 / CAPACIDADES
O que pode fazer
Orientação
Estudar quais os especialistas que contribuem para características concretas e quantificar o erro de reconstrução de ativações. Os três checkpoints por camada partilham uma ficha. Não substituem o modelo base, não geram texto nem fornecem embeddings de documentos.
Contexto
Camadas 4, 30 e 46 do Qwen3-30B-A3B · 100 características ativas por token e por autocodificador
Ferramentas e integração
Não publicado
Acesso
Hugging Face · checkpoint descarregável
Modalidades de entrada
Ativações internas
04 / PREÇOS
Custo documentado
| Conceito | Valor | Unidade/condição |
|---|---|---|
| Entrada padrão | Sem tarifa API oficial publicada | Tarifa padrão da API |
| Entrada em cache | Não publicado | Leitura de prefixos reutilizados |
| Escrita ou armazenamento em cache | Não publicado | A condição varia consoante o fornecedor |
| Saída padrão | Custo da infraestrutura própria | Pode incluir tokens de raciocínio |
| Entrada por lotes | Não publicado | Processamento assíncrono |
| Saída por lotes | Não publicado | Processamento assíncrono |
Não foi verificada uma API comercial alojada para este checkpoint. Descarregar os pesos não cobre armazenamento, aceleradores, memória ou operação.
i Os preços mudam e podem depender do nível, região ou duração do contexto. Verifique a fonte antes de tomar uma decisão.
05 / AVALIAÇÕES
Como ler os resultados
“
A ByteDance comunica 12,6%, 25,1% e 7,6% de variância não explicada nas camadas 4, 30 e 46. Um valor menor indica melhor reconstrução nesse ensaio. Não são taxas de sucesso nem classificações de modelos de conversação. A Inferama não reproduziu as medições.
| Benchmark | Resultado | Métrica | Fonte |
|---|---|---|---|
| Qwen3 MoE SAE FVU (layer 4) | 12,6 % | Menor é melhor | Ver fonte ↗ |
| Qwen3 MoE SAE FVU (layer 30) | 25,1 % | Menor é melhor | Ver fonte ↗ |
| Qwen3 MoE SAE FVU (layer 46) | 7,6 % | Menor é melhor | Ver fonte ↗ |
O Inferama só destaca o “melhor resultado” quando a métrica, o conjunto de testes, a configuração e a data permitem uma comparação equivalente. Os números do fornecedor são apresentados como declarações de sua própria fonte.
06 / VERSÕES
Cronologia
Qwen3-30B-A3B MoE-Output SAE
Versão incorporada no catálogo verificado da Inferama.
07 / FONTES