ByteDance publica autoencoders esparsos para analisar três camadas do Qwen3-30B-A3B
Imagem gerada pela Equipa Editorial da Inferama
01

O que foi publicado e o que estuda

A ByteDance Seed publicou três autoencoders esparsos (SAE) treinados sobre a saída de blocos de mistura de especialistas (MoE) do Qwen3-30B-A3B. Cada autoencoder corresponde a uma camada específica: a 4, a 30 ou a 46. Os pesos estão organizados por camada e podem ser baixados como arquivos independentes.

O trabalho associado, intitulado «SAE Interprets MoE: Sparse AutoEncoders Reveal That MoE Experts Exhibit Human-Interpretable Fine-Grained Specialization», foi enviado ao arXiv em 5 de novembro de 2026 como versão 1. É um pré-impresso, não uma prova de que o artigo tenha passado por revisão por pares. O estudo examina como as contribuições dos especialistas do modelo se relacionam com traços latentes interpretáveis.

Um modelo MoE ativa apenas alguns de seus especialistas para processar cada token. Contar quantas vezes cada especialista é ativado pode mostrar padrões amplos, mas não indica por si só qual parte da representação cada um contribui. O método do artigo analisa a saída combinada do bloco e decompõe matematicamente a pré-ativação de cada traço do SAE entre os especialistas ativos.

O alcance empírico se limita ao Qwen3-30B-A3B e às camadas analisadas. O resultado não demonstra que outros modelos MoE organizem seus especialistas da mesma maneira, nem que as etiquetas interpretáveis descrevam de forma completa ou causal o comportamento interno do modelo.

02

O que contêm os três SAE

Cada SAE tem 1.048.576 traços latentes e aplica uma seleção TopK que preserva até 100 ativações positivas por token. Os traços não formam um único espaço compartilhado entre camadas: cada checkpoint foi treinado para a saída de uma camada específica, portanto os identificadores de uma camada não devem ser tratados automaticamente como equivalentes aos de outra.

O SAE recebe a saída não normalizada do bloco MoE, antes da soma residual. Seu codificador aplica uma transformação afim, uma função ReLU e a seleção TopK. O decodificador combina os traços selecionados para reconstruir uma aproximação da saída original. Por isso, o sistema serve para analisar e reconstruir ativações internas; não é um modelo conversacional que gera respostas por si só.

Os arquivos de pesos estão em formato Safetensors e contêm tensores de ponto flutuante de 32 bits. Cada arquivo ocupa aproximadamente 17,2 GB, além da memória necessária para carregar o modelo base se desejar capturar novas ativações. Uma entrada extensa pode requerer processamento por segmentos porque o cálculo denso anterior ao TopK consome memória por token.

A ficha publica a fração de variância não explicada (FVU) da reconstrução para cada camada. O valor mede o erro de reconstrução na configuração avaliada: quanto menor for, menor será a fração de variância que permanece sem explicação nesse ensaio. Não é uma taxa de acerto, uma medida de qualidade de respostas nem uma comparação geral de modelos.

Pesos e cifras de reconstrução publicadas

Camada do Qwen3-30B-A3BTraços latentesAtivações TopK por tokenFVU publicada
41.048.576Até 10012,6 %
301.048.576Até 10025,1 %
461.048.576Até 1007,6 %
03

Como se interpreta a especialização dos especialistas

O artigo propõe medir a especialização no espaço de traços, em vez de atribuir especialistas a categorias temáticas fixadas de antemão. Como o codificador do SAE é afim e a saída MoE combina as saídas dos especialistas ativados, a pré-ativação de cada traço pode ser decomposta exatamente entre esses especialistas, sob a formulação do trabalho.

Ao agregar essas contribuições sobre um corpus, a análise identifica para cada especialista os traços cuja ativação impulsiona principalmente. O resultado é uma relação entre especialistas e traços dominantes. Essa relação depende dos dados, das camadas, da definição de dominância e dos limiares utilizados; não converte automaticamente um traço em uma explicação causal ou universal do especialista.

Nas camadas estudadas, os autores informam que as contribuições para os traços estão mais concentradas que o padrão de ativação do roteador e que a maioria dos traços tem um ou dois especialistas dominantes. Também descrevem sobreposições concentradas em certos pares de especialistas. São resultados da análise do Qwen3-30B-A3B, não leis gerais sobre arquiteturas MoE.

Para atribuir descrições semânticas aos conjuntos de traços, o estudo utiliza interpretação automatizada com um modelo de linguagem. O repositório indica que as explicações, etiquetas e julgamentos temáticos publicados foram gerados com GPT-5.5. São saídas de um procedimento automatizado e podem conter erros; não equivalem a anotações humanas verificadas.

04

Treinamento, dados e reprodução

Os SAE foram treinados de forma independente com saídas MoE coletadas do corpus de treinamento do Olmo 3. A mistura descrita compreende cinco oitavos de dados de pré-treinamento Dolma 3, um quarto de Dolci-Think-SFT —cadeias de raciocínio— e um oitavo de Dolci-Instruct-SFT —seguimento de instruções—. O artigo oferece detalhes da receita de treinamento; a ficha informa cerca de 3,2 bilhões de tokens por SAE.

O repositório do projeto publica código e dados derivados para reproduzir partes da análise. A estatística de contribuição usa um conjunto de validação de aproximadamente 1,5 bilhão de tokens, separado dos dados usados para treinar os SAE e composto com a mesma mistura de fontes. O repositório especifica que os documentos são truncados em 4.096 tokens para esse processamento.

A reprodução completa exige recursos de hardware consideráveis. A documentação do projeto estima cerca de 61 GB para o Qwen3-30B-A3B em bf16 e outros 8 GB para o codificador SAE fp32 de cada camada rastreada; processar as três camadas em uma passada requer duas GPU de 80 GB, segundo essa configuração documentada. Essas cifras descrevem o procedimento do projeto e não garantem que qualquer implementação necessite exatamente o mesmo hardware.

Algumas etapas dependem, além disso, de um serviço compatível com a API da OpenAI para as interpretações e classificações automatizadas. O repositório identifica o GPT-5.5 como o modelo empregado no artigo e adverte que mudar o modelo pode alterar esses resultados. O código publicado permite reproduzir experimentos especificados, mas o repositório aponta que não inclui o fluxo completo que reúne contextos ativadores e efeitos sobre logits para explicar traços.

Fluxo de análise descrito pelo projeto

  1. 01Capturar as saídas do bloco MoE nas camadas selecionadas do Qwen3-30B-A3B.
  2. 02Codificar cada saída com o SAE correspondente e calcular as contribuições dos especialistas para os traços ativos.
  3. 03Agregar as contribuições sobre o conjunto de validação e construir relações de dominância entre especialistas e traços.
  4. 04Interpretar os conjuntos de traços e avaliar etiquetas ou domínios com as ferramentas automatizadas descritas no projeto.
05

Limites práticos e licença

As FVU publicadas são cifras atribuídas ao artigo na ficha do modelo. A Inferama não reproduziu essas medições, e o material do projeto não constitui uma validação independente. A FVU avalia a reconstrução de ativações no ensaio informado; não permite concluir que o modelo produza respostas mais precisas, seguras ou úteis.

A relação entre um especialista e um conjunto de traços oferece uma forma de inspecionar a estrutura interna, mas não prova causalidade. A seleção de dados, o limiar para definir dominância, a camada e o método de interpretação influenciam o observado. As descrições geradas automaticamente requerem avaliação crítica antes de serem usadas como explicações confiáveis do comportamento.

Os pesos do SAE e o modelo base são publicados sob a Apache License 2.0, segundo a ficha. Os dados de treinamento derivados de Dolma 3, Dolci-Think-SFT e Dolci-Instruct-SFT mantêm seus próprios termos: o repositório atribui a esses conjuntos ODC-BY v1.0. A licença dos pesos não elimina as condições aplicáveis a esses dados nem a serviços de terceiros.

Não consta uma tarifa oficial de API para esses checkpoints nem uma oferta comercial verificada na documentação considerada. Os pesos baixáveis não implicam execução gratuita: o uso requer armazenamento, memória e aceleradores, e a captura de ativações exige carregar o modelo base. O custo real depende do equipamento, do volume processado e de se utilizam serviços externos.

O que cada elemento permite concluir

ElementoPermite afirmarNão permite afirmar
FVU por camadaA reconstrução deixou uma fração de variância sem explicação no ensaio comunicado.Que essa camada ou o modelo tenha uma taxa de acerto determinada.
Traços dominantes por especialistaAlguns especialistas contribuem principalmente para certos traços na análise realizada.Que a associação seja causal, exclusiva ou válida para outros modelos.
Explicações automáticasUm modelo de linguagem gerou etiquetas ou descrições para traços e especialistas.Que as etiquetas tenham sido confirmadas por anotadores humanos.
Pesos publicadosOs arquivos podem ser baixados e utilizados conforme suas licenças e requisitos técnicos.Que exista uma API oficial, uma tarifa publicada ou execução sem custo de infraestrutura.
06

Continue a explorar

Fontes consultadas

03

Correções e transparência

Se encontrar informação incorreta ou desatualizada, envie-nos a página e a fonte que devemos rever.

Propor uma correção