Versione esatta
Verifica l’identificatore del modello, la data e se l’alias può cambiare.
BENCHMARK DOCUMENTATO
HLE (sin herramientas)
Risultati pubblicati e condizioni dichiarate dalle fonti. I dati sono confrontabili solo quando versione, configurazione, metrica e data coincidono.
01 / RISULTATI
Misurazioni pubblicate
| Modello | Organizzazione | Risultato | Metrica | Condizioni |
|---|---|---|---|---|
| DeepSeek V4.1 Flash | DeepSeek | 42,6 | Punteggio | DeepSeek-V4.1-Flash-1017 · 17 OTT 2026. HLE: 42,6 completo e 44,0 solo testo, senza strumenti. Terminal-Bench 4.0 usa Claude Code; DeepSWE v1.1, Mini-SWE-V2. Chartography, BabyVision e ZeroBench usano strumenti; ZeroBench-main è Pass@5. Risultato del fornitore, non riprodotto da Inferama. |
02 / INTERPRETAZIONE
Prima di confrontare
Configurazione equivalente
Verifica strumenti, sforzo, numero di tentativi, prompt e budget di inferenza.
Trasferimento al tuo caso
Convalida il risultato con attività, lingue, formati ed errori rappresentativi del tuo prodotto.
03 / METODO
Dal benchmark a una decisione riproducibile
Un benchmark pubblico orienta, ma non sostituisce una valutazione con i tuoi dati, strumenti, budget e tolleranza all'errore.
Identifica la versione esatta
Un alias mobile e uno snapshot possono produrre risultati diversi. Registra modello, data e fornitore.
Ricostruisci le condizioni
Prompt, ragionamento, strumenti, numero di tentativi e budget devono essere equivalenti per poter confrontare.
Cerca l'incertezza
Una piccola differenza può scomparire tra un'esecuzione e l'altra. Conserva campioni, dispersione ed errori, non solo la media.
Verifica il trasferimento
Convalida se il miglioramento si mantiene in lingue, formati e casi reali vicini al tuo prodotto.
Una metrica è utile solo quando conosciamo l’attività, le condizioni e l’errore che conta. Il risultato inizia con la progettazione del test.
04 / FONTI