Definição numa frase
Quantidade máxima de tokens que um modelo pode considerar entre entrada, histórico, ferramentas e saída num pedido.
Como interpretar este conceito
A janela de contexto limita a sequência que um modelo pode processar numa interação. Dependendo da API e do modelo, o orçamento pode incluir instruções, histórico, documentos, resultados de ferramentas e saída. O máximo de entrada e o máximo de geração não devem ser confundidos: é necessário consultar ambos os limites na documentação específica.
Uma janela grande não garante que o modelo utilize todos os detalhes com a mesma fiabilidade. Incluir material irrelevante pode aumentar custo e latência, e truncar sem critério pode eliminar uma condição essencial. Convém reservar espaço para a resposta, priorizar evidência e conservar a proveniência dos fragmentos selecionados.
Exemplo prático: ao analisar um contrato longo, não basta verificar se o ficheiro cabe. É necessário incluir anexos aplicáveis, instruções e perguntas, e verificar se a resposta respeita exceções dispersas. Se o documento for dividido, a aplicação deve controlar que partes ficaram de fora; resumir ou cortar não equivale a preservar integralmente o conteúdo.
