Versión exacta
Comprueba el identificador del modelo, la fecha y si el alias puede cambiar.
BENCHMARK DOCUMENTADO
Terminal-Bench 2.1
Resultados publicados y condiciones declaradas por sus fuentes. Las cifras solo son comparables cuando coinciden versión, configuración, métrica y fecha.
01 / RESULTADOS
Mediciones publicadas
| Modelo | Organización | Resultado | Métrica | Condiciones |
|---|---|---|---|---|
| GPT‑5.6 Sol | OpenAI | 88,8 % | Exactitud | Con el harness y esfuerzo publicados. |
| GPT‑5.6 Terra | OpenAI | 87,4 % | Exactitud | Con el harness y esfuerzo publicados. |
| GPT‑5.6 Luna | OpenAI | 84,7 % | Exactitud | Con el harness y esfuerzo publicados. |
| Gemini 3.1 Pro | 70,7 % | Exactitud | Cifra reproducida en la tabla comparativa de OpenAI. | |
| DeepSeek V4.1 Flash | DeepSeek | 90,6 % | Exactitud | Resultado histórico del 10 de septiembre de 2026, no reevaluado para la revisión API 1017. |
| Recursive Flint | Recursive | 54,9 % | Mayor es mejor | Recursive · media pass@1 de al menos cinco intentos · temperatura 1,0, top-p 0,95, top-k 20. Terminus 2 en Terminal-Bench; mini-swe-agent en SWE-bench. Resultado del proveedor, no reproducido por Inferama; no extrapolar entre precisiones. |
02 / INTERPRETACIÓN
Antes de comparar
Configuración equivalente
Revisa herramientas, esfuerzo, número de intentos, prompt y presupuesto de inferencia.
Transferencia a tu caso
Valida el resultado con tareas, idiomas, formatos y errores representativos de tu producto.
03 / MÉTODO
Del marcador a una decisión reproducible
Un benchmark público orienta, pero no sustituye una evaluación con tus datos, herramientas, presupuesto y tolerancia al error.
Identifica la versión exacta
Un alias móvil y un snapshot pueden producir resultados diferentes. Registra modelo, fecha y proveedor.
Reconstruye las condiciones
Prompt, razonamiento, herramientas, número de intentos y presupuesto deben ser equivalentes para comparar.
Busca incertidumbre
Una diferencia pequeña puede desaparecer entre ejecuciones. Conserva muestras, dispersión y fallos, no solo la media.
Comprueba transferencia
Valida si la mejora se mantiene en idiomas, formatos y casos reales cercanos a tu producto.
Una métrica solo es útil cuando conocemos la tarea, las condiciones y el error que importa. El resultado empieza por el diseño de la prueba.
04 / FUENTES