Utilisation principale déclarée ou déduite avec prudence de la documentation officielle.
B
BYTEDANCE SEED / ByteDance-Seed/Cross-Layer-TopK-CLT
Cross-Layer TopK CLT
Transcodeur parcimonieux de ByteDance Seed pour étudier Qwen3-8B-Base. Il lit le flux résiduel avant les MLP et approxime leurs sorties à partir de caractéristiques inter-couches. La révision vérifiée contient les 36 encodeurs et 36 décodeurs ; le téléversement s’est achevé le 5 novembre.
01 / RÉSUMÉ
L'essentiel
Capacité d'entrée maximale une fois publiée par la source.
Limite de génération maximale documentée.
Canaux de disponibilité vérifiés.
Famille fonctionnelle principale et spécialités vérifiées.
Conditions déclarées pour l’API, les poids ou l’auto-hébergement.
02 / FICHE TECHNIQUE
Limites et intégration
| ID d’API | ByteDance-Seed/Cross-Layer-TopK-CLT |
|---|---|
| Type de modèle | Interprétabilité |
| Mode d’accès | Poids ouverts |
| Licence | Apache 2.0 |
| Déploiement | Auto-hébergement |
| Lancement | 05 NOV 2026 |
| Date limite des connaissances | Non publié |
| Entrée | Activations internes |
| Sortie | Caractéristiques latentes · Activations reconstruites |
| Fenêtre contextuelle | 36 couches et 32 768 caractéristiques par couche |
| puissance maximale | 360 caractéristiques actives par token sur toutes les couches |
| Raisonnement | Non publié |
| Outils publiés | |
| Sorties structurées | Non publié |
| Traitement par lots | Non publié |
| Cache de prompts | Non publié |
| Ajustement fin | Non publié |
| Plateformes vérifiées | Hugging Face · PyTorch |
Analyser les activations et reconstruire les contributions des couches d’un modèle de base fixe. Ce composant de recherche ne reçoit pas du texte comme une API de conversation, ne génère pas de réponses et ses caractéristiques internes ne sont pas des embeddings de recherche.
Le jeu complet occupe environ 377 Go en FP32 et compte 94,2 milliards de paramètres. Configuration et facteurs d’échelle doivent correspondre à la révision. L’exemple d’encodage seul omet les décodeurs et ne montre pas que le modèle complet tient sur un GPU.
03 / CAPACITÉS
Ce qu’il peut faire
Orientation
Analyser les activations et reconstruire les contributions des couches d’un modèle de base fixe. Ce composant de recherche ne reçoit pas du texte comme une API de conversation, ne génère pas de réponses et ses caractéristiques internes ne sont pas des embeddings de recherche.
Contexte
36 couches et 32 768 caractéristiques par couche · 360 caractéristiques actives par token sur toutes les couches
Outils et intégration
Non publié
Accès
Hugging Face · checkpoint téléchargeable
Modalités d’entrée
Activations internes
04 / TARIFS
Coût documenté
| Concept | Valeur | Unité/état |
|---|---|---|
| Entrée standard | Aucun tarif API officiel publié | Tarif API standard |
| Entrée en cache | Non publié | Lecture de préfixes réutilisés |
| Écriture ou stockage de cache | Non publié | La condition varie selon le fournisseur |
| Sortie standard | Coût de l’infrastructure propre | Peut inclure des tokens de raisonnement |
| Entrée par lots | Non publié | Traitement asynchrone |
| Sortie par lots | Non publié | Traitement asynchrone |
Aucune API commerciale hébergée n’a été vérifiée pour ce checkpoint. Le téléchargement des poids ne couvre ni stockage, ni accélérateurs, ni mémoire, ni exploitation.
i Les prix changent et peuvent dépendre du niveau, de la région ou de la durée du contexte. Vérifiez la source avant de prendre une décision.
05 / ÉVALUATIONS
Comment lire les résultats
“
La fiche documente l’encodage et la reconstruction sans score chiffré vérifié pour ce checkpoint. Une évaluation distincte doit figer le modèle de base et mesurer l’erreur de reconstruction et la sensibilité à l’ablation. La taille des fichiers et la parcimonie ne mesurent pas la qualité.
i Aucun score chiffré vérifié pour la version exacte.
Inferama ne met en évidence un « meilleur résultat » que lorsque la métrique, l'ensemble de test, la configuration et la date permettent une comparaison équivalente. Les chiffres du fournisseur sont présentés comme des affirmations provenant de sa propre source.
06 / VERSIONS
Chronologie
Cross-Layer TopK CLT
Version intégrée au catalogue vérifié d’Inferama.
07 / SOURCES