Aleph Alphas Kolibri: Was über das offene Modell bekannt ist – und was noch geprüft werden muss

Vielversprechende Vorstellung, aber Details müssen noch geprüft werden

Aleph Alpha stellt Kolibri als Modell mit offenen Gewichten vor, das besonders auf Deutsch und Englisch ausgerichtet ist. Es soll sich an Organisationen richten, die kontrollieren müssen, wo ihre KI-Systeme betrieben werden. Das Unternehmen hat eine Produktseite, ein zugehöriges Modell-Repository und einen eigenen technischen Bericht veröffentlicht. Diese Unterlagen machen das Produkt und seine Ausrichtung erkennbar. Die verfügbaren Informationen reichen jedoch nicht aus, um sämtliche Spezifikationen zu bestätigen, die für eine konkrete Installation ausschlaggebend sein können.

Diese Unterscheidung ist wichtig. Eine Produktseite kann die Positionierung eines Angebots beschreiben. Ein Modell-Datenblatt sowie die verfügbaren Dateien und Konfigurationen können Aufschluss darüber geben, wie es bereitgestellt wird. Eine reproduzierbare Evaluation wiederum kann die Qualität und die Kosten unter festgelegten Bedingungen vergleichbar machen. Das sind unterschiedliche Arten von Belegen. Insbesondere beweist die Bezeichnung „souverän“ für Kolibri nicht von selbst, dass eine Organisation ihre rechtlichen Pflichten erfüllt oder alle erforderlichen Komponenten unter denselben Bedingungen installieren darf.

Aleph Alpha beschreibt Kolibri als Mixture-of-Experts-Architektur, kurz MoE, und hebt die Eignung für sensible Arbeitslasten hervor. Aus den vorliegenden Informationen lässt sich nicht ableiten, dass diese Architektur allein in einer realen Umgebung bessere Ergebnisse erzielt oder Kosten senkt. Dafür wären Messungen mit vergleichbaren Aufgaben, Hardware-Konfigurationen und Modelleinstellungen erforderlich.

Parameter und Kontextlänge: dem Anbieter zugeschriebene Angaben

Aleph Alpha beschreibt Kolibri als MoE-Modell mit ungefähr 78 Milliarden Parametern insgesamt und rund drei Milliarden aktiven Parametern pro Token. Diese Zahlen sind als Angaben des Unternehmens zu verstehen, nicht als Ergebnisse einer unabhängigen Prüfung, die in den hier vorliegenden Unterlagen dokumentiert wäre. Daneben kursieren genauere Werte von 78,1 Milliarden Gesamtparametern und 3,46 Milliarden aktiven Parametern. Die überprüfbaren Materialien reichen jedoch nicht aus, um diese Genauigkeit zu bestätigen. Es wäre daher nicht ratsam, solche exakten Zahlen so mit anderen Modellen zu vergleichen, als wären sie anhand eines einheitlichen Datenblatts validiert worden.

Bei einer MoE-Architektur ist die Gesamtzahl der Parameter nicht unbedingt gleich der Zahl der Parameter, die bei der Verarbeitung jedes Tokens zum Einsatz kommen. Für einen Teil der Eingabe werden bestimmte Experten aktiviert, andere bleiben in diesem Verarbeitungsschritt ungenutzt. Die Zahl der aktiven Parameter kann für die Einschätzung des Rechenaufwands relevant sein. Sie bestimmt den benötigten Speicher jedoch nicht allein: Auch die zu ladenden Gewichte, die Quantisierung, die Eingabelänge, die Batch-Größe und die konkrete Implementierung spielen eine Rolle.

Das Unternehmen gibt außerdem an, Kolibri könne einen Kontext von bis zu einer Million Tokens verarbeiten. Aus den verfügbaren Unterlagen geht nicht hervor, unter welchen Bedingungen dieser Wert gilt oder welche Qualität das Modell nahe dieser Grenze erreicht. Eine angekündigte maximale Kontextlänge ist keine Garantie dafür, dass sämtliche Informationen darin präzise wiedergefunden werden. Sie sagt für sich genommen auch nichts über Latenz, Kosten oder die Leistung bei umfangreichen Dokumenten aus. Für eine praktische Bewertung sollten Organisationen die genaue Konfiguration anfordern und das Modell mit ihren eigenen Dokumenten und Aufgaben testen.

Offene Gewichte bedeuten nicht, dass alle Lizenzfragen geklärt sind

Die Bezeichnung „offene Gewichte“ weist darauf hin, dass Modellgewichte veröffentlicht werden. Sie beantwortet jedoch nicht automatisch alle rechtlichen und betrieblichen Fragen. Eine sorgfältige Prüfung sollte klären, welche Lizenz für die Gewichte gilt und ob sie Weitergabe und kommerzielle Nutzung abdeckt. Außerdem ist zu prüfen, ob für den Code, die Tokenizer-Daten, Inferenzwerkzeuge oder andere erforderliche Dateien abweichende Bedingungen gelten.

Anhand der verfügbaren Informationen ist nicht bestätigt, dass Apache 2.0 sämtliche Elemente abdeckt, die zur Ausführung von Kolibri benötigt werden. Daher sollte weder behauptet werden, diese Lizenz gelte für das gesamte Paket, noch sollte die Erlaubnis für jede denkbare Nutzung als geklärt gelten. Maßgeblich sind die Bedingungen, die für jedes Artefakt und jede konkrete Modellversion veröffentlicht wurden. Je nach Einsatzfall kann zusätzlich eine juristische Prüfung erforderlich sein.

Auch im Beschaffungs- oder Evaluationsprozess sollte festgelegt werden, was „offen“ konkret bedeutet. Für manche Teams reicht es aus, die Gewichte herunterladen und damit experimentieren zu können. Andere benötigen eindeutige Rechte zur Veränderung, Weitergabe, kommerziellen Nutzung in Produkten und dauerhaften Versionierung. Das sind unterschiedliche Anforderungen, die sich nicht allein aus der Bezeichnung in einer Ankündigung ableiten lassen.

Hardware und Bereitstellung: Nicht von einer einzelnen GPU ausgehen

Ein Modell auf eigener Infrastruktur auszuführen, kann für Organisationen hilfreich sein, die Zugriffe, den Speicherort von Daten oder die Netzwerkanbindung kontrollieren müssen. Aleph Alpha beschreibt Bereitstellungsoptionen für seine Plattform, darunter lokale und isolierte Betriebsformen. Das ist für die Planung möglicher Installationsarchitekturen relevant, stellt aber keine vollständige Spezifikation von Kolibri dar. Es garantiert auch nicht, dass jede lokale Konfiguration die Anforderungen einer Organisation erfüllt.

Nicht bestätigt ist, dass Kolibri mit der benötigten Qualität und Leistung auf einer einzelnen B200- oder H200-GPU ausgeführt werden kann – oder unter welchen Bedingungen hinsichtlich Quantisierung, Kontextlänge und Batch-Größe dies möglich wäre. Auch die Verfügbarkeit solcher Beschleuniger belegt weder die Wirtschaftlichkeit einer Konfiguration noch ihre Eignung für den Produktivbetrieb. Vor der Kapazitätsplanung braucht es reproduzierbare Anleitungen, gemessenen Speicherverbrauch und Tests in einer Umgebung, die der geplanten Konfiguration entspricht.

Eine Evaluation sollte über den Nachweis hinausgehen, dass sich das Modell laden lässt. Zu messen sind unter anderem Latenz, Parallelverarbeitung, Kosten pro Aufgabe, Stabilität, Verhalten bei langen Eingaben und Speicherbedarf. Außerdem sollte festgelegt werden, was bei fehlender Hardware geschieht, wie die Gewichte aktualisiert werden und welche Kontrollen Zugriffe protokollieren und begrenzen.

Souveränität und Regulierung: Kontrollmöglichkeiten sind kein Compliance-Zertifikat

Eine souveräne Bereitstellung kann bedeuten, dass eine Organisation stärker bestimmen kann, wo ein System betrieben wird und wer die Infrastruktur kontrolliert. Diese Eigenschaften können wertvoll sein. Sie belegen jedoch nicht automatisch, dass ein konkreter Einsatz die Datenschutzvorschriften, Regeln für die öffentliche Beschaffung, branchenspezifische Pflichten oder interne Sicherheitsrichtlinien erfüllt.

Die Einhaltung von Vorschriften hängt vom Gesamtsystem und seiner Nutzung ab: Dazu gehören unter anderem die verarbeiteten Daten, der Zweck, Zugriffskontrollen, Protokollierung, menschliche Aufsicht, Vorfallmanagement, der Infrastrukturprovider und die Vertragsbedingungen. Selbst wenn die Gewichte auf eigenen Servern laufen, müssen Organisationen Abhängigkeiten und Datenflüsse prüfen. Und auch wenn eine Plattform einen isolierten Betrieb ermöglicht, müssen Konfiguration und laufender Betrieb überprüft werden.

Aleph Alpha richtet das Angebot an sensible Arbeitslasten und regulierte Branchen. Das ist eine Aussage zur Positionierung des Anbieters, aber keine unabhängige Bewertung, die die Eignung für jede Behörde oder Branche nachweist. Die entscheidende Frage lautet nicht nur, ob sich das Modell lokal hosten lässt. Zu klären ist auch, welche konkreten Kontrollen die Gesamtlösung bietet und welche Nachweise ihre Wirksamkeit dokumentieren.

Was für einen belastbaren Vergleich noch fehlt

Die ermittelten öffentlichen Informationen enthalten hier keine ausreichenden reproduzierbaren Ergebnisse, um Kolibris Qualität auf Deutsch und Englisch mit der anderer Modelle zu vergleichen. Ebenso wenig lässt sich die Leistung bei Aufgaben mit langem Kontext oder in regulierten Anwendungsbereichen fundiert beurteilen. Dafür müssten die verwendeten Evaluationsdatensätze, Modellversionen, Inferenzparameter und Ergebnisse bekannt sein – ebenso mögliche Einschränkungen und Fehlerfälle.

Wer das Modell in Betracht zieht, sollte die Veröffentlichung als Ausgangspunkt nutzen, nicht als Kaufentscheidung. Zunächst sind Aufgaben und Erfolgskriterien festzulegen. Anschließend müssen die Version und ihre Nutzungsbedingungen überprüft werden. Danach sollten Tests auf repräsentativer Infrastruktur und mit geeigneten Daten sowie Schutzmaßnahmen stattfinden. Bei Anbieter- und Modellvergleichen müssen Aufgaben und Konfigurationen möglichst gleich gehalten und dokumentiert werden: Schon Unterschiede bei Kontextlänge, Quantisierung oder Anweisungen können die Ergebnisse verändern.

Die vorsichtige Schlussfolgerung auf Grundlage der verfügbaren Informationen ist begrenzt: Kolibri wird als MoE-Modell mit Ausrichtung auf Deutsch, Englisch und souveräne Bereitstellungen präsentiert, und Aleph Alpha hat eigene Unterlagen zum Produkt veröffentlicht. Die genaueren Parameterzahlen, die tatsächlich nutzbare Kontextlänge, die Gültigkeit von Apache 2.0 für alle Komponenten, der Betrieb auf einer einzelnen B200- oder H200-GPU und die nachgewiesene Eignung für regulierte Umgebungen müssen noch konkret geprüft werden. Diese Trennung zwischen Ankündigung und Nachweis ermöglicht eine sachliche Bewertung, ohne die Sprache der Souveränität in eine bisher nicht belegte Garantie umzudeuten.

Weiter entdecken

Korrekturen und Transparenz

Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.