Baseten veröffentlicht Bison-1 und Groundhog-1: Offene Entscheidungsmodelle auf Basis von Gemma 4
Bild erstellt vom Redaktionsteam von Inferama
01

Veröffentlichung offener Entscheidungsmodelle

Baseten hat Bison-1 und Groundhog-1 veröffentlicht, zwei Modelle mit offenen Gewichten, die speziell für Entscheidungsaufgaben entwickelt wurden. Diese Modelle wurden aus der Gemma-4-Familie von Google post-getrain, was einen Wechsel gegenüber den früheren Modellen des Unternehmens darstellt, die auf der Qwen-Architektur basierten.

Die Veröffentlichung erfolgte am 20. November 2026 und ist sofort über die Baseten-Model-APIs verfügbar. Darüber hinaus wurden die Gewichte beider Modelle unter einer offenen Lizenz auf Hugging Face freigegeben, was es Teams ermöglicht, das Training zu audieren und die Inferenz bei Bedarf in ihrer eigenen Infrastruktur bereitzustellen.

02

Architektur und Gemma-4-Basis

Bison-1 basiert auf Gemma 4 31B, einem dichten Modell mit 31 Milliarden Parametern. Groundhog-1 stützt sich hingegen auf Gemma 4 26B-A4B, eine Mixture-of-Experts-Architektur (MoE) mit 26 Milliarden Gesamtparametern, von denen pro Token nur 4 Milliarden aktiv sind. Dieser architektonische Unterschied ermöglicht es Groundhog-1, ein Gleichgewicht zwischen Kosten und Latenz anzubieten, das kleineren Modellen ähnelt, während es eine überlegene Fähigkeit zur Schlussfolgerung beibehält.

Die Wahl von Gemma 4 entspricht der Nachfrage von Teams, die nach Modellen mit einer westlichen Basis für Fragen der technologischen Souveränität und der Einhaltung von Vorschriften suchen. Die Gemma-4-Familie, die von Google veröffentlicht wurde, steht unter der Apache-2.0-Lizenz, was ihre Integration in Unternehmensumgebungen erleichtert, die die Nachverfolgbarkeit des Modellursprungs erfordern.

Technischer Vergleich der Entscheidungsmodell-Familie von Baseten

ModellParameterBasisarchitekturKontextfensterPreis pro 1M Tokens
Bison-131BGemma 4 31B128k$0,10
Groundhog-126B (MoE, ~4B aktiv)Gemma 4 26B-A4B128k$0,035
Mammoth-127BQwen16k$0,10
Elephant-19BQwen16k$0,035
03

Kontextfähigkeiten und Multimodalität

Eine der bedeutendsten Verbesserungen ist die Erweiterung des Kontextfensters auf 128k Tokens, was einer Verachtfachung gegenüber den 16k Tokens der früheren Baseten-Modelle entspricht. Diese Kapazität ermöglicht es, vollständige Dokumente, lange E-Mail-Threads oder komplette Unternehmensrichtlinien in die Eingabe des Modells aufzunehmen, ohne sie vorher zusammenfassen oder Auswahlen treffen zu müssen.

Beide Modelle akzeptieren multimodale Eingaben und verarbeiten gleichzeitig Text und Bilder. Dies ist besonders nützlich in Szenarien, in denen die Entscheidung von gescannten Dokumenten, Schadensfotos oder Screenshots von Benutzeroberflächen abhängt. Die Kombination aus langem Kontext und Bildverarbeitung ermöglicht es dem Modell, Details zu erfassen, die weit von der Hauptfrage entfernt liegen oder nur im grafischen Bestandteil sichtbar sind.

04

Leistung und Kalibrierung im Decision Index

Im Decision Index v2.1 von Artificial Analysis erzielt Bison-1 eine Punktzahl von 76 und belegt damit den ersten Platz unter 19 bewerteten Entscheidungsmodellen. Es folgt d1.2-ultra mit 75 Punkten und Mammoth-1, das frühere Modell von Baseten, mit 71 Punkten. Baseten erwartet, dass Groundhog-1 eine vergleichbare Leistung wie Mammoth-1 in diesem Index erreichen wird.

Ein hervorgehobener Aspekt ist die Kalibrierung der Wahrscheinlichkeiten. Bison-1 weist die niedrigste Brier-Punktzahl im Index auf, mit einem Wert von 0,14, im Vergleich zu 0,15 für d1.2-ultra. Eine niedrigere Brier-Punktzahl zeigt an, dass das vom Modell erklärte Vertrauen besser mit seiner empirischen Genauigkeit übereinstimmt. Dies wurde teilweise durch die Verwendung von weichen Labels während des Trainings erreicht, indem das Modell gelehrt wurde, Wahrscheinlichkeiten wie 83 % für Option A und 17 % für B zuzuweisen, anstatt binäre Labels von 100 % zu verwenden.

05

Verfügbarkeit und Bereitstellungsoptionen

Die Modelle sind sofort über die Baseten-Model-APIs und als offene Gewichte auf Hugging Face verfügbar. Die API behält die Kompatibilität mit den früheren Modellen bei, was bedeutet, dass Teams, die bereits Mammoth-1 oder Elephant-1 verwenden, einfach den Modellnamen in ihren Anfragen ändern können, um zu migrieren, ohne die Integrationslogik neu schreiben zu müssen.

Für Teams, die sich für Self-Hosting entscheiden, ermöglichen die offenen Gewichte die Implementierung in VPC- oder lokalen Umgebungen. Dies erfordert jedoch das Management der GPU-Infrastruktur, des Inferenz-Batchings und des Monitorings. Baseten bietet die verwaltete Option für diejenigen, die die operative Komplexität vermeiden möchten, während die Option mit offenen Gewichten Flexibilität für Audits und die Einhaltung von Datenresidenzanforderungen bietet.

Schritte zur Bewertung der Migration zu Bison-1 oder Groundhog-1

  1. 01Eine Baseline mit dem aktuellen Entscheidungsmodell (Regeln, Embeddings oder Chat-Modell) festlegen.
  2. 02Echtverkehr auf Baseten mit Bison-1 an einer repräsentativen Stichprobe von Fällen replizieren.
  3. 03Kalibrierungsmetriken (Brier, ECE) und Genauigkeit auf eigenen Labels vergleichen, nicht nur auf aggregierten Indizes.
  4. 04Lasttests mit 128k-Token-Eingaben durchführen, um sicherzustellen, dass die p95-Latenz die SLA erfüllt.
  5. 05Den Bedarf an Multimodalität bewerten und Ablationstests durchführen, um den tatsächlichen Beitrag der Bildverarbeitung zu messen.
06

Weiter entdecken

Verwendete Quellen

03

Korrekturen und Transparenz

Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.

Korrektur vorschlagen