Lancement de modèles de décision ouverts
Baseten a lancé Bison-1 et Groundhog-1, deux modèles à poids ouverts conçus pour effectuer des tâches de décision. Les deux sont issus du post-entraînement de modèles de la famille Gemma 4 de Google, contrairement aux précédents modèles de décision de Baseten, qui reposaient sur Qwen.
Baseten a annoncé leur lancement le 20 novembre 2026. Les modèles sont disponibles sur ses API Model et leurs poids sont publiés sur Hugging Face. La publication des poids permet aux équipes de les déployer dans leur propre infrastructure, sous réserve des conditions de licence et des besoins techniques de ce déploiement.
Architecture et base Gemma 4
Bison-1 est construit sur Gemma 4 31B, un modèle dense de 31 milliards de paramètres. Groundhog-1 repose sur Gemma 4 26B-A4B, un modèle à mélange d’experts (MoE) qui compte 26 milliards de paramètres au total et en active environ 4 milliards par token. Cette architecture parcimonieuse peut réduire le calcul par token par rapport à un modèle dense de taille comparable, mais ne garantit pas à elle seule une latence donnée.
Selon Baseten, ces modèles répondent à la demande d’équipes qui souhaitent une base américaine pour des raisons de souveraineté technologique ou de politique d’approvisionnement. Gemma 4 est une famille de modèles de Google. Les poids de Bison-1 et Groundhog-1 sont publiés sur Hugging Face ; leur mise à disposition ne permet pas, à elle seule, de conclure que les modèles post-entraînés de Baseten relèvent de la même licence que le modèle de base.
Comparaison des modèles de décision de Baseten
| Modèle | Paramètres | Modèle de base | Fenêtre de contexte | Prix par million de tokens |
|---|---|---|---|---|
| Bison-1 | 31B | Gemma 4 31B | 128k | $0.10 |
| Groundhog-1 | 26B (MoE, environ 4B actifs) | Gemma 4 26B-A4B | 128k | $0.035 |
| Mammoth-1 | 27B | Qwen | 16k | $0.10 |
| Elephant-1 | 9B | Qwen | 16k | $0.035 |
Fenêtre de contexte et entrées multimodales
La fenêtre de contexte de 128k tokens est huit fois plus grande que celle de 16k tokens des précédents modèles de décision de Baseten sur ses API Model. Cette capacité permet de fournir au modèle davantage de contenu dans une même requête, par exemple une politique complète ou un long échange de courriels, sans devoir nécessairement le résumer ou en sélectionner des extraits. La taille de la fenêtre n’établit toutefois pas que chaque requête longue sera traitée rapidement ou sans erreur.
Les deux modèles acceptent des entrées texte et image. Cette capacité peut servir lorsque la décision dépend d’un document numérisé, d’une photographie ou d’une capture d’écran. Les résultats sur des tâches visuelles concrètes dépendront notamment de la qualité des images et de la façon dont les demandes sont formulées ; la prise en charge des images ne garantit pas que chaque détail visuel sera correctement interprété.
Résultats et calibration sur le Decision Index
Sur le Decision Index v2.1 d’Artificial Analysis, Bison-1 obtient un score de 76 et se classe premier parmi les 19 modèles répertoriés dans le classement au moment du lancement. D1.2-ultra obtient 75 et Mammoth-1, 71. Ces résultats décrivent le classement sur cet index, et non la performance générale des modèles sur toutes les tâches de décision.
Baseten indique également que Bison-1 obtient le score de Brier le plus bas de cet index : 0,14, contre 0,15 pour D1.2-ultra. Un score de Brier plus faible indique généralement une meilleure adéquation entre les probabilités annoncées et les résultats observés dans les conditions d’évaluation concernées ; il ne garantit pas une calibration équivalente sur d’autres données. Baseten attribue une partie des progrès aux étiquettes souples utilisées pendant l’entraînement : au lieu d’indiquer uniquement que la réponse A est correcte à 100 %, une cible peut répartir la probabilité entre A et B, par exemple 83 % et 17 %. Baseten s’attend à ce que Groundhog-1 atteigne des performances comparables à celles de Mammoth-1 sur l’index officiel, mais ce résultat n’était pas encore publié dans l’annonce.
Disponibilité et évaluation avant déploiement
Bison-1 et Groundhog-1 sont disponibles sur les API Model de Baseten et leurs poids sont publiés sur Hugging Face. Baseten indique que les deux modèles utilisent la même API de décision que ses modèles précédents. Les équipes déjà équipées peuvent donc essayer de remplacer le nom du modèle dans leurs requêtes ; la compatibilité effective dépend aussi du format des entrées, des sorties attendues et de leur intégration existante.
Le déploiement des poids dans une infrastructure locale ou un environnement VPC peut donner aux équipes davantage de contrôle sur l’hébergement, mais demande de gérer les GPU, le traitement par lots et la surveillance du service. L’API gérée de Baseten constitue une autre option pour les équipes qui ne souhaitent pas prendre en charge ces opérations. Dans les deux cas, le classement d’un modèle ne suffit pas à établir qu’il conviendra à un flux de travail donné : il faut vérifier ses résultats sur des exemples représentatifs et dans les conditions de latence et de coût visées.
Évaluer une migration vers Bison-1 ou Groundhog-1
- 01Mesurer les performances de référence du système de décision actuel, qu’il repose sur des règles, des embeddings ou un modèle conversationnel.
- 02Faire tourner une partie représentative des requêtes sur Bison-1 ou Groundhog-1 en parallèle du système actuel.
- 03Comparer la précision et la calibration, notamment les scores de Brier et d’ECE, sur des données munies de vos propres étiquettes, plutôt que de s’appuyer uniquement sur un classement agrégé.
- 04Tester la latence, y compris le p95, avec des entrées de tailles représentatives et des contextes longs, puis vérifier que les résultats répondent aux exigences du service.
- 05Évaluer l’apport réel des images en comparant les résultats avec et sans entrée visuelle lorsque les données le permettent.
Poursuivre l’exploration
Sources consultées
Corrections et transparence
Si vous repérez une information incorrecte ou obsolète, envoyez-nous la page et la source à vérifier.
Proposer une correction