Was veröffentlicht wurde und wann
Thinking Machines Lab hat Inkling 2 Small veröffentlicht, ein Allzweck-Multimodell, das Text und Bilder als Eingabe akzeptiert und Text als Ausgabe generiert. Das offizielle Veröffentlichungsdatum ist der 5. November 2026, gemäß der technischen Modellkarte.
Das Modell ist für Entwickler konzipiert, die KI-Anwendungen bauen, einschließlich agentischer Systeme, Code-Assistenten, Chatbots und Retrieval-Augmented-Generation-Systeme (RAG). Es unterstützt Englisch und andere Sprachen sowie mehrere Programmiersprachen.
Architektur und technische Spezifikationen
Inkling 2 Small ist ein autoregressiver Decoder-only-Transformer mit 48 Schichten und einem dünnen Mixture-of-Experts (MoE)-Rückgrat. Jedes Token wird an 8 von 384 Experten geroutet, was eine erhebliche Recheneffizienz ermöglicht.
Das Modell verfügt über 594 Milliarden Gesamtparameter, von denen 17 Milliarden pro Token aktiv sind. Die Aufmerksamkeit ist hybrid und kombiniert lokale und globale Schichten. Es ist nativ multimodal: Bilder werden über einen Vision-Transformer kodiert und in einen gemeinsamen versteckten Raum mit dem Text projiziert, um gemeinsam vom Decoder verarbeitet zu werden.
Es unterstützt die numerischen Formate MXFP8 und NVFP4. Das in der technischen Karte deklarierte Kontextfenster beträgt bis zu 1 Mio. Token, wobei die tatsächliche Verfügbarkeit auf der Plattform Tinker je nach Nutzungsmodalität variiert.
Technische Spezifikationen von Inkling 2 Small
| Merkmal | Detail |
|---|---|
| Gesamtparameter | 594 Mrd. |
| Aktive Parameter pro Token | 17 Mrd. |
| Architektur | Dünnes MoE (8 von 384 Experten) |
| Schichten | 48 |
| Eingabemodalitäten | Text und Bild |
| Ausgabemodalität | Text |
| Kontextfenster (Karte) | Bis zu 1 Mio. Token |
| Numerische Unterstützung | MXFP8, NVFP4 |
Varianten, Modalitäten und Zugang
Das Modell ist über die Plattform Tinker verfügbar, die API-Zugang für Feinabstimmung und Sampling bietet. Entwickler können beginnen, indem sie das Paket `tml-renderers` installieren und das Tinker-Cookbook verwenden.
Tinker bietet zwei Hauptkonfigurationen für Inkling 2 Small: eine mit einem Kontext von 64K Token und eine mit 256K Token (identifiziert durch den Suffix `:peft:262144`). Die 256K-Konfiguration hat höhere Trainingskosten, aber die Preise für Prefill und Sampling sind dieselben wie bei der 64K-Version.
Darüber hinaus gibt es eine Option für Serverless-Inferenz im Beta-Stadium mit einer spezifischen Kennung (`:sampling-nvfp4`), die derzeit nur für Inkling, Inkling-Small und Inkling 2 Small verfügbar ist. Für den Produktiveinsatz müssen Interessierte über eine Warteliste Zugang anfordern.
Preis und operative Kosten
Die Preise in Tinker werden pro Million Token berechnet. Für Inkling 2 Small beträgt die Prefill- (Eingabe-)Kosten 0,30 USD, mit einem Rabatt auf 0,03 USD für Token im Cache. Die Sampling- (Ausgabe-)Kosten betragen 1,00 USD pro Million Token.
Das Training kostet 1,50 USD pro Million Token in der 64K-Konfiguration und 3,00 USD in der 256K-Konfiguration. Die Speicherung von Checkpoints wird mit 0,10 USD pro GB pro Monat berechnet.
In der Modalität der Serverless-Inferenz im Beta-Stadium betragen die Preise 0,30 USD für Eingabe, 0,03 USD für Eingabe im Cache und 1,00 USD für Ausgabe, mit einem maximalen Kontext von 256K Token.
Preise für Inkling 2 Small in Tinker (pro Million Token)
| Modalität | Kontext | Prefill (USD) | Prefill im Cache (USD) | Sampling (USD) | Training (USD) |
|---|---|---|---|---|---|
| Standard | 64K | 0,30 | 0,03 | 1,00 | 1,50 |
| Erweitert | 256K | 0,30 | 0,03 | 1,00 | 3,00 |
| Serverless (Beta) | 256K | 0,30 | 0,03 | 1,00 | N/A |
Evaluierungen und Leistung
Die technische Karte veröffentlicht eine Reihe von Ergebnissen in Benchmarks von Drittanbietern. Im Artificial Analysis Intelligence Index v5.0 erzielt Inkling 2 Small eine Punktzahl von 30,6. In DeepSWE v1.1 erreicht es 72,1 %, und in SWE-bench Pro v2 Hard 86,3 %.
Diese Ergebnisse werden vom Anbieter veröffentlicht und nicht unabhängig durch Inferama reproduziert. Die Leistung kann je nach Konfiguration, Sprache und spezifischem Anwendungsbereich variieren. Es wird Entwicklern empfohlen, eigene Evaluierungen durchzuführen, bevor das Modell in Hochrisiko- oder sicherheitskritischen Kontexten deployed wird.
Das Modell wurde vor der Veröffentlichung auf Sicherheit getestet, einschließlich Tests für alltägliche Interaktionen und gefährliche Fähigkeiten. Es wurden Minderungen angewendet, um Risiken zu reduzieren, und es wurde festgestellt, dass das Modell in Bezug auf Kontrollverlust materiell unter den Fähigkeiten von Frontier-Modellen liegt.
Einschränkungen und Sicherheitsüberlegungen
Inkling 2 Small kann Einschränkungen aufweisen, die für Basismodelle typisch sind, einschließlich Halluzinationen (Generierung von plausibel, aber faktisch falschen Inhalten), gelegentlichen Fehlern bei der präzisen Befolgung von Anweisungen und einer Leistungseinbuße in langen Multi-Turn-Unterhaltungen.
Da es mit webabgeleiteten und synthetischen Daten trainiert wurde, kann das Modell demografische, kulturelle oder sprachliche Verzerrungen in den Trainingsdaten widerspiegeln. Sein Wissen ist auf Informationen beschränkt, die bis zu seinem Trainingsstichtag verfügbar waren, und reflektiert keine späteren Ereignisse.
Es wird Entwicklern empfohlen, menschliche Aufsicht und Überprüfung für Ausgaben anzuwenden, die in Hochrisiko- oder sicherheitskritischen Kontexten verwendet werden. Das Modell sollte nicht in Bereichen wie Medizin, Recht oder sicherheitskritischer Entscheidungsfindung deployed werden, ohne zusätzliche Feinabstimmung, domänenspezifische Validierung und menschliche Aufsicht.
Weiter entdecken
Verwendete Quellen
Korrekturen und Transparenz
Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.
Korrektur vorschlagen