Definición en una frase
Cantidad máxima de tokens que un modelo puede considerar entre entrada, historial, herramientas y salida en una solicitud.
Cómo interpretar este concepto
La ventana de contexto limita la secuencia que un modelo puede procesar en una interacción. Según la API y el modelo, el presupuesto puede incluir instrucciones, historial, documentos, resultados de herramientas y salida. El máximo de entrada y el máximo de generación no deben confundirse: hay que consultar ambos límites en la documentación específica.
Una ventana grande no garantiza que el modelo utilice todos los detalles con la misma fiabilidad. Incluir material irrelevante puede aumentar coste y latencia, y truncar sin criterio puede eliminar una condición esencial. Conviene reservar espacio para la respuesta, priorizar evidencia y conservar la procedencia de los fragmentos seleccionados.
Ejemplo práctico: al analizar un contrato largo, no basta con comprobar que cabe el archivo. Hay que incluir anexos aplicables, instrucciones y preguntas, y verificar que la respuesta respeta excepciones dispersas. Si se divide el documento, la aplicación debe controlar qué partes quedaron fuera; resumir o recortar no equivale a preservar íntegramente el contenido.
