Cosa è stato lanciato e quando
Thinking Machines Lab ha pubblicato Inkling 2 Small, un modello multimodale di uso generale che accetta testo e immagini come input e genera testo come output. La data di lancio ufficiale è il 5 novembre 2026, secondo la scheda tecnica del modello.
Il modello è progettato per sviluppatori che costruiscono applicazioni basate su IA, inclusi sistemi agentici, assistenti di codice, chatbot e sistemi di generazione aumentata da recupero (RAG). Supporta l'inglese e altre lingue, nonché più linguaggi di programmazione.
Architettura e specifiche tecniche
Inkling 2 Small è un transformer autoregressivo solo-decoder con 48 layer e un backbone Mixture-of-Experts (MoE) sparsa. Ogni token viene instradato a 8 dei 384 esperti, consentendo un'efficienza computazionale significativa.
Il modello conta 594 miliardi di parametri totali, di cui 17 miliardi attivi per token. L'attenzione è ibrida, combinando layer locali e globali. È nativamente multimodale: le immagini vengono codificate tramite un vision transformer e proiettate in uno spazio latente condiviso con il testo per essere elaborate congiuntamente dal decoder.
Supporta la numerica MXFP8 e NVFP4. La finestra di contesto dichiarata nella scheda tecnica è fino a 1M di token, sebbene la disponibilità reale sulla piattaforma Tinker vari a seconda della modalità di utilizzo.
Specifiche tecniche di Inkling 2 Small
| Caratteristica | Dettaglio |
|---|---|
| Parametri totali | 594B |
| Parametri attivi per token | 17B |
| Architettura | MoE sparsa (8 su 384 esperti) |
| Layer | 48 |
| Modalità di input | Testo e immagine |
| Modalità di output | Testo |
| Finestra di contesto (scheda) | Fino a 1M token |
| Supporto numerico | MXFP8, NVFP4 |
Varianti, modalità e accesso
Il modello è disponibile tramite la piattaforma Tinker, che offre accesso API per fine-tuning e campionamento. Gli sviluppatori possono iniziare installando il pacchetto `tml-renderers` e utilizzando il Cookbook di Tinker.
Tinker offre due configurazioni principali per Inkling 2 Small: una con contesto di 64K token e un'altra con 256K token (identificata dal suffisso `:peft:262144`). La configurazione da 256K ha un costo di addestramento più elevato, ma i prezzi di prefill e campionamento sono gli stessi della versione da 64K.
Inoltre, esiste un'opzione di inferenza serverless in beta con un identificatore specifico (`:sampling-nvfp4`), attualmente disponibile solo per Inkling, Inkling-Small e Inkling 2 Small. Per l'uso in produzione, gli interessati devono richiedere l'accesso tramite una lista d'attesa.
Prezzo e costi operativi
I prezzi su Tinker sono calcolati per milione di token. Per Inkling 2 Small, il costo di prefill (input) è di 0,30 USD, con uno sconto a 0,03 USD per i token in cache. Il costo di campionamento (output) è di 1,00 USD per milione di token.
L'addestramento ha un costo di 1,50 USD per milione di token nella configurazione da 64K e 3,00 USD nella configurazione da 256K. Lo storage dei checkpoint viene fatturato a 0,10 USD per GB al mese.
Nella modalità di inferenza serverless in beta, i prezzi sono di 0,30 USD per l'input, 0,03 USD per l'input in cache e 1,00 USD per l'output, con un contesto massimo di 256K token.
Prezzi di Inkling 2 Small su Tinker (per milione di token)
| Modalità | Contesto | Prefill (USD) | Prefill in cache (USD) | Campionamento (USD) | Addestramento (USD) |
|---|---|---|---|---|---|
| Standard | 64K | 0,30 | 0,03 | 1,00 | 1,50 |
| Esteso | 256K | 0,30 | 0,03 | 1,00 | 3,00 |
| Serverless (beta) | 256K | 0,30 | 0,03 | 1,00 | N/A |
Valutazioni e prestazioni
La scheda tecnica pubblica una serie di risultati su benchmark di terze parti. Nell'Indice di Intelligenza Artificial Analysis v5.0, Inkling 2 Small ottiene un punteggio di 30,6. In DeepSWE v1.1, raggiunge il 72,1 %, e in SWE-bench Pro v2 Hard, l'86,3 %.
Questi risultati sono pubblicati dal fornitore e non sono stati riprodotti in modo indipendente da Inferama. Le prestazioni possono variare a seconda della configurazione, della lingua e del dominio specifico dell'applicazione. Si raccomanda agli sviluppatori di effettuare le proprie valutazioni prima di distribuire il modello in contesti ad alto rischio o critici per la sicurezza.
Il modello è stato valutato per la sicurezza prima del lancio, inclusi test di interazione quotidiana e capacità pericolose. Sono state applicate mitigazioni per ridurre i rischi, ed è stato riscontrato che il modello è materialmente al di sotto delle capacità dei modelli frontier in termini di perdita di controllo.
Limitazioni e considerazioni di sicurezza
Inkling 2 Small può esibire limitazioni comuni ai modelli di base, incluse allucinazioni (generazione di contenuto plausibile ma fattualmente errato), fallimenti occasionali nel seguire precisamente le istruzioni e degrado delle prestazioni in conversazioni multivolta lunghe.
Essendo addestrato con dati derivati dal web e sintetici, il modello può riflettere bias demografici, culturali o linguistici presenti nei dati di addestramento. La sua conoscenza è limitata alle informazioni disponibili fino al suo cutoff di addestramento e non riflette eventi successivi.
Si raccomanda agli sviluppatori di applicare supervisione umana e revisione per gli output utilizzati in contesti ad alto rischio o critici per la sicurezza. Non si deve distribuire il modello in domini come medicina, diritto o decisioni critiche per la sicurezza senza ulteriore fine-tuning, validazione specifica del dominio e supervisione umana.
Continua a esplorare
Fonti consultate
Correzioni e trasparenza
Se trovi un dato errato o non aggiornato, inviaci la pagina e la fonte da verificare.
Proponi una correzione