Atualizado em
Janela de contexto é a quantidade de informação que um modelo de IA consegue considerar ao produzir uma resposta. Ela pode incluir o prompt, mensagens anteriores, documentos e outras instruções disponíveis naquele momento.
SÉRIE · Da instrução à ação
2 de 6
O que é contexto em uma inteligência artificial?
Quando escrevemos uma pergunta para um chatbot, aquela frase não é necessariamente a única informação que o modelo recebe.
Também podem fazer parte do contexto:
- mensagens anteriores da conversa;
- instruções definidas pelo próprio sistema;
- textos ou documentos fornecidos pelo usuário;
- exemplos usados para orientar uma tarefa;
- informações recuperadas de outras fontes.
Mas a qualidade da resposta também depende das informações que o modelo consegue considerar junto com essa instrução.
É aí que entra a janela de contexto.
O que é uma janela de contexto?
A janela de contexto é o espaço disponível para as informações que o modelo pode processar em determinada interação.
Esse espaço costuma ser medido em tokens – as unidades em que modelos de linguagem dividem textos para processá-los.
A documentação do Gemini compara a janela de contexto a uma espécie de memória de curto prazo: existe uma quantidade limitada de informação que pode permanecer disponível ao modelo durante a geração de uma resposta.
A analogia é útil, desde que não seja levada longe demais. A janela de contexto não é memória humana, nem significa que o modelo tenha lembranças da maneira como uma pessoa tem.
Ela é, antes de tudo, um limite de informação disponível para processamento.
O que pode ocupar essa janela?
Imagine começar uma conversa dizendo que você prepara uma aula para alunos do primeiro semestre.
Você fornece um texto, pede uma mensagem introdutória, faz três perguntas e solicita uma atividade.
Por fim, escreve:
Agora crie cinco questões sobre isso.
“Isso” só faz sentido porque há informações anteriores na conversa.
O modelo pode utilizar o que estiver disponível em seu contexto para interpretar a referência: público, assunto, texto fornecido e instruções anteriores.
O mesmo acontece quando anexamos um documento e perguntamos:
Qual é a principal conclusão do autor?
A pergunta isolada é insuficiente. O documento faz parte do contexto necessário para respondê-la.
Por isso, contexto não significa apenas “o que eu escrevi agora”. É o conjunto de informações disponíveis para orientar a resposta.
Quanto maior a janela de contexto, melhor?
Não necessariamente.
Janelas maiores permitem trabalhar de uma só vez com conversas extensas, documentos, código, áudio, vídeo e outros materiais.
Modelos atuais lidam com volumes muito maiores do que as primeiras gerações, mas capacidade não significa necessidade.
A própria documentação do Google recomenda evitar informações desnecessárias para a tarefa. Contextos maiores também podem aumentar custos e tempo de processamento.
Há ainda um problema mais simples: informação irrelevante também é contexto.
Se você entrega dez documentos quando apenas dois interessam, inclui instruções contraditórias ou mantém uma conversa longa cheia de mudanças de direção, o modelo precisa encontrar o que realmente importa no meio desse material.
Mais contexto pode ajudar.
Contexto relevante ajuda muito mais.
Contexto e memória são a mesma coisa?
Não.
A janela de contexto reúne aquilo que está disponível ao modelo naquela interação. Já uma funcionalidade de memória pode armazenar determinada informação para recuperá-la em outro momento.
Um sistema também pode consultar documentos, bancos de dados ou mecanismos de busca e acrescentar os resultados àquilo que o modelo recebe.
Em todos esses casos existe uma diferença entre guardar informação e colocar informação diante do modelo no momento em que ele precisa utilizá-la.
É por isso que modelos de linguagem podem trabalhar com informações que não estavam originalmente em seu treinamento.
O importante é que essas informações sejam trazidas para o contexto.
Por que organizar o contexto importa?
Imagine que você entregue três documentos a uma IA e escreva apenas:
Analise.
Tecnicamente há bastante contexto. Editorialmente, há pouca direção.
Agora compare:
Com base nos três documentos fornecidos, identifique apenas as divergências entre os autores sobre o conceito de inteligência. Apresente primeiro os pontos de desacordo e depois as convergências.
O material é o mesmo.
O que mudou foi a organização entre contexto e instrução.
A Anthropic recomenda separar claramente documentos, contexto, exemplos e instruções em tarefas complexas para reduzir ambiguidades.
Em entradas longas, também recomenda estruturar os materiais e posicionar a pergunta de maneira que fique evidente o que deve ser feito com eles.
Isso ajuda a entender uma mudança importante: escrever bons prompts continua útil, mas trabalhar bem com IA envolve cada vez mais organizar aquilo que o modelo precisa saber.
Quando contexto deixa de ser apenas informação
Um prompt orienta a tarefa. O contexto fornece as informações que ajudam o modelo a executá-la.
Mas sistemas atuais podem fazer algo além de receber esses dois elementos.
Eles podem pesquisar na web, consultar arquivos, executar código, acessar serviços, preservar o estado de uma tarefa e pedir autorização antes de determinadas ações.
Nesse ponto, já não estamos falando apenas daquilo que o modelo recebe.
Precisamos olhar para a infraestrutura que organiza como ele trabalha.
É essa camada que determina quais ferramentas estão disponíveis, como os resultados retornam ao modelo, o que permanece entre uma etapa e outra e quais ações exigem controle humano.
No próximo texto, chegamos ao harness: a estrutura que começa a transformar um modelo que responde em um sistema capaz de executar tarefas.
DA INSTRUÇÃO À AÇÃO
Próximo: O que é harness em IA e como ele funciona?
2 de 6 – Janela de contexto
Anterior: O que é um prompt de IA e como escrever um bom prompt?