Lanzamiento de modelos de decisión abiertos
Baseten ha lanzado Bison-1 y Groundhog-1, dos modelos de pesos abiertos diseñados específicamente para tareas de decisión. Estos modelos se post-entrenaron a partir de la familia Gemma 4 de Google, marcando un cambio respecto a los modelos anteriores de la compañía, que se basaban en la arquitectura Qwen.
La publicación se realizó el 20 de noviembre de 2026 y está disponible de inmediato a través de las API de Baseten Model. Además, los pesos de ambos modelos se han liberado en Hugging Face bajo una licencia abierta, permitiendo a los equipos auditar el entrenamiento y desplegar la inferencia en sus propias infraestructuras si lo desean.
Arquitectura y base Gemma 4
Bison-1 se construye sobre Gemma 4 31B, un modelo denso de 31 mil millones de parámetros. Groundhog-1, por su parte, se basa en Gemma 4 26B-A4B, una arquitectura de expertos mezclados (MoE) con 26 mil millones de parámetros totales, de los cuales solo 4 mil millones están activos por token. Esta diferencia arquitectónica permite a Groundhog-1 ofrecer un equilibrio entre coste y latencia que se aproxima al de los modelos más pequeños, manteniendo una capacidad de razonamiento superior.
El uso de Gemma 4 responde a la demanda de equipos que buscan modelos con una base occidental para cuestiones de soberanía tecnológica y cumplimiento normativo. La familia Gemma 4, lanzada por Google, está disponible bajo licencia Apache 2.0, lo que facilita su integración en entornos corporativos que requieren trazabilidad del origen del modelo base.
Comparativa técnica de la familia de modelos de decisión de Baseten
| Modelo | Parámetros | Arquitectura base | Ventana de contexto | Precio por 1M tokens |
|---|---|---|---|---|
| Bison-1 | 31B | Gemma 4 31B | 128k | $0.10 |
| Groundhog-1 | 26B (MoE, ~4B activos) | Gemma 4 26B-A4B | 128k | $0.035 |
| Mammoth-1 | 27B | Qwen | 16k | $0.10 |
| Elephant-1 | 9B | Qwen | 16k | $0.035 |
Capacidades de contexto y multimodalidad
Una de las mejoras más significativas es la expansión de la ventana de contexto a 128k tokens, lo que representa un aumento de ocho veces respecto a los 16k tokens de los modelos anteriores de Baseten. Esta capacidad permite incluir documentos completos, hilos de correo extensos o políticas corporativas completas en la entrada del modelo sin necesidad de resumir o seleccionar fragmentos.
Ambos modelos aceptan entrada multimodal, procesando simultáneamente texto e imágenes. Esto es particularmente útil en escenarios donde la decisión depende de documentos escaneados, fotografías de daños o capturas de pantalla de interfaces de usuario. La combinación de contexto largo y visión permite al modelo capturar detalles que podrían estar alejados de la pregunta principal o que solo son visibles en el componente gráfico.
Rendimiento y calibración en el Decision Index
En el Decision Index v2.1 de Artificial Analysis, Bison-1 obtiene una puntuación de 76, situándose en el primer lugar entre 19 modelos de decisión evaluados. Le sigue d1.2-ultra con 75 puntos y Mammoth-1, el modelo anterior de Baseten, con 71 puntos. Baseten espera que Groundhog-1 alcance un rendimiento comparable al de Mammoth-1 en este índice.
Un aspecto destacado es la calibración de probabilidades. Bison-1 presenta la puntuación Brier más baja del índice, con un valor de 0.14, frente a 0.15 de d1.2-ultra. Una puntuación Brier más baja indica que la confianza declarada por el modelo se alinea mejor con su precisión empírica. Esto se logró en parte mediante el uso de etiquetas suaves durante el entrenamiento, enseñando al modelo a asignar probabilidades como 83% para la opción A y 17% para la B, en lugar de etiquetas binarias del 100%.
Disponibilidad y consideraciones de despliegue
Los modelos están disponibles de inmediato a través de las API de Baseten Model y como pesos abiertos en Hugging Face. La API mantiene compatibilidad con los modelos anteriores, lo que significa que los equipos que ya utilizan Mammoth-1 o Elephant-1 pueden migrar simplemente cambiando el nombre del modelo en sus solicitudes, sin necesidad de reescribir la lógica de integración.
Para los equipos que optan por el autoalojamiento, los pesos abiertos permiten la implementación en entornos VPC o locales. Sin embargo, esto requiere gestionar la infraestructura de GPU, el loteo de inferencia y el monitoreo. Baseten ofrece la opción gestionada para aquellos que prefieren evitar la complejidad operativa, mientras que la opción de pesos abiertos proporciona flexibilidad para auditorías y cumplimiento de requisitos de residencia de datos.
Pasos para evaluar la migración a Bison-1 o Groundhog-1
- 01Establecer una línea base con el modelo de decisión actual (reglas, embeddings o modelo de chat).
- 02Reproducir el tráfico real en Baseten utilizando Bison-1 en una muestra representativa de casos.
- 03Comparar métricas de calibración (Brier, ECE) y precisión sobre las etiquetas propias, no solo en índices agregados.
- 04Realizar pruebas de carga con entradas de 128k tokens para verificar que la latencia p95 cumple con los SLA.
- 05Evaluar la necesidad de multimodalidad y realizar pruebas de ablatión para medir el aporte real de la visión.
Continúa explorando
Fuentes consultadas
Correcciones y transparencia
Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.
Proponer una corrección