Uso principal declarado o inferido con cautela desde la documentación oficial.
Qwen3-30B-A3B MoE-Output SAE
Tres autocodificadores TopK de ByteDance Seed para analizar la salida de bloques MoE de Qwen3-30B-A3B. Los pesos y el trabajo técnico son del 5 de noviembre. Cada capa tiene un checkpoint propio con 1.048.576 rasgos latentes, de los que se seleccionan hasta 100 por token.
Lo esencial
Capacidad máxima de entrada cuando la fuente la publica.
Límite máximo de generación documentado.
Canales de disponibilidad verificados.
Familia funcional principal y especialidades verificadas.
Condiciones declaradas para API, pesos o despliegue propio.
Límites e integración
| ID de API | ByteDance-Seed/Qwen3-30B-A3B-MoE-SAE |
|---|---|
| Tipo de modelo | Interpretabilidad |
| Modelo de acceso | Pesos abiertos |
| Licencia | Apache 2.0 |
| Despliegue | Despliegue propio |
| Lanzamiento | 05 NOV 2026 |
| Corte de conocimiento | No publicado |
| Entrada | Activaciones internas |
| Salida | Rasgos latentes · Activaciones reconstruidas |
| Ventana de contexto | Capas 4, 30 y 46 de Qwen3-30B-A3B |
| Salida máxima | 100 rasgos activos por token y por autocodificador |
| Razonamiento | No publicado |
| Herramientas publicadas | |
| Salidas estructuradas | No publicado |
| Procesamiento por lotes | No publicado |
| Caché de prompts | No publicado |
| Ajuste fino | No publicado |
| Plataformas verificadas | Hugging Face · PyTorch |
Estudiar qué expertos contribuyen a rasgos concretos y cuantificar el error al reconstruir activaciones. Se agrupan los tres checkpoints por capa en una ficha. No sustituyen al modelo base, no generan texto y no constituyen un servicio de embeddings para documentos.
Cada archivo de pesos ocupa aproximadamente 17,2 GB en FP32, además de la memoria del modelo base. Las capas no comparten un espacio latente intercambiable. Una entrada larga puede requerir procesamiento por segmentos. Las atribuciones observadas no prueban por sí solas causalidad.
Qué puede hacer
Orientación
Estudiar qué expertos contribuyen a rasgos concretos y cuantificar el error al reconstruir activaciones. Se agrupan los tres checkpoints por capa en una ficha. No sustituyen al modelo base, no generan texto y no constituyen un servicio de embeddings para documentos.
Contexto
Capas 4, 30 y 46 de Qwen3-30B-A3B · 100 rasgos activos por token y por autocodificador
Herramientas e integración
No publicado
Acceso
Hugging Face · checkpoint descargable
Coste documentado
| Concepto | Valor | Unidad / condición |
|---|---|---|
| Entrada estándar | Sin tarifa API oficial publicada | Tarifa estándar de API |
| Entrada en caché | No publicado | Lectura de prefijos reutilizados |
| Escritura o almacenamiento de caché | No publicado | La condición varía según proveedor |
| Salida estándar | Coste de infraestructura propia | Puede incluir tokens de razonamiento |
| Entrada por lotes | No publicado | Procesamiento asíncrono |
| Salida por lotes | No publicado | Procesamiento asíncrono |
No se ha verificado una API comercial para este checkpoint. La descarga de pesos no cubre el coste de almacenamiento, aceleradores, memoria ni operación.
i Los precios cambian y pueden depender del nivel, la región o la longitud del contexto. Revisa la fuente antes de tomar una decisión.
Cómo leer los resultados
ByteDance informa 12,6 %, 25,1 % y 7,6 % de varianza no explicada para las capas 4, 30 y 46, respectivamente. Un valor menor indica mejor reconstrucción en ese ensayo. No son tasas de acierto de tareas ni permiten clasificar modelos de chat. Inferama no ha reproducido esas mediciones.
| Benchmark | Resultado | Métrica | Fuente |
|---|---|---|---|
| Qwen3 MoE SAE FVU (layer 4) | 12,6 % | Menor es mejor | Ver fuente ↗ |
| Qwen3 MoE SAE FVU (layer 30) | 25,1 % | Menor es mejor | Ver fuente ↗ |
| Qwen3 MoE SAE FVU (layer 46) | 7,6 % | Menor es mejor | Ver fuente ↗ |
Inferama solo destaca un «mejor resultado» cuando la métrica, el conjunto de prueba, la configuración y la fecha permiten una comparación equivalente. Las cifras del proveedor se presentan como afirmaciones de su propia fuente.
Cronología
Qwen3-30B-A3B MoE-Output SAE
Versión incorporada al catálogo verificado de Inferama.