Versione esatta
Verifica l’identificatore del modello, la data e se l’alias può cambiare.
BENCHMARK DOCUMENTATO
SWE-Bench Pro
Risultati pubblicati e condizioni dichiarate dalle fonti. I dati sono confrontabili solo quando versione, configurazione, metrica e data coincidono.
01 / RISULTATI
Misurazioni pubblicate
| Modello | Organizzazione | Risultato | Metrica | Condizioni |
|---|---|---|---|---|
| GPT‑5.6 Sol | OpenAI | 64,6 % | Risolto | Tabella ufficiale di GPT‑5.6. |
| GPT‑5.6 Terra | OpenAI | 63,4 % | Risolto | Tabella ufficiale di GPT‑5.6. |
| GPT‑5.6 Luna | OpenAI | 62,7 % | Risolto | Tabella ufficiale di GPT‑5.6. |
| Gemini 3.1 Pro | 54,2 % | Risolto | Valore riprodotto nella tabella comparativa di OpenAI. | |
| GLM‑5.1 | Z.AI | 58,4 % | Risolto | Risultato pubblicato da Z.AI. |
02 / INTERPRETAZIONE
Prima di confrontare
Configurazione equivalente
Verifica strumenti, sforzo, numero di tentativi, prompt e budget di inferenza.
Trasferimento al tuo caso
Convalida il risultato con attività, lingue, formati ed errori rappresentativi del tuo prodotto.
03 / METODO
Dal benchmark a una decisione riproducibile
Un benchmark pubblico orienta, ma non sostituisce una valutazione con i tuoi dati, strumenti, budget e tolleranza all'errore.
Identifica la versione esatta
Un alias mobile e uno snapshot possono produrre risultati diversi. Registra modello, data e fornitore.
Ricostruisci le condizioni
Prompt, ragionamento, strumenti, numero di tentativi e budget devono essere equivalenti per poter confrontare.
Cerca l'incertezza
Una piccola differenza può scomparire tra un'esecuzione e l'altra. Conserva campioni, dispersione ed errori, non solo la media.
Verifica il trasferimento
Convalida se il miglioramento si mantiene in lingue, formati e casi reali vicini al tuo prodotto.
Una metrica è utile solo quando conosciamo l’attività, le condizioni e l’errore che conta. Il risultato inizia con la progettazione del test.
04 / FONTI