Janela de contexto é a quantidade de informação que um modelo de IA consegue considerar ao produzir uma resposta. Ela pode incluir o prompt, mensagens anteriores, documentos e outras instruções disponíveis naquele momento.
TRILHA 2 · Da instrução à ação
2 de 6
O que é contexto em uma inteligência artificial?
Quando escrevemos uma pergunta para um chatbot, aquela frase não é necessariamente a única informação que o modelo recebe.
Também podem fazer parte do contexto:
- mensagens anteriores da conversa;
- instruções definidas pelo próprio sistema;
- textos ou documentos fornecidos pelo usuário;
- exemplos usados para orientar uma tarefa;
- informações recuperadas de outras fontes.
O prompt é, portanto, apenas uma parte do contexto.
No texto anterior, O que é um prompt de IA e como escrever um bom prompt?, vimos que uma instrução mais clara tende a reduzir ambiguidades.
Mas a qualidade da resposta também depende das informações que o modelo consegue considerar junto com essa instrução.
É aí que entra a janela de contexto.
O que é uma janela de contexto?
A janela de contexto é o espaço disponível para as informações que o modelo pode processar em determinada interação.
Esse espaço costuma ser medido em tokens — as unidades em que modelos de linguagem dividem textos para processá-los.
A documentação do Gemini compara a janela de contexto a uma espécie de memória de curto prazo: existe uma quantidade limitada de informação que pode permanecer disponível ao modelo durante a geração de uma resposta.
A analogia é útil, desde que não seja levada longe demais. A janela de contexto não é memória humana, nem significa que o modelo tenha lembranças da maneira como uma pessoa tem.
Ela é, antes de tudo, um limite de informação disponível para processamento.
O que pode ocupar essa janela?
Imagine uma conversa longa com uma IA.
Você começa dizendo:
Estou preparando uma aula para alunos do primeiro semestre.
Depois fornece um texto, estabelece que a linguagem deve ser introdutória, faz três perguntas e pede uma atividade.
Quando chega à última solicitação, algo como:
Agora crie cinco questões sobre isso.
“Isso” só faz sentido porque há informações anteriores na conversa.
O modelo pode utilizar o que estiver disponível em seu contexto para interpretar a referência: público, assunto, texto fornecido e instruções anteriores.
O mesmo acontece quando anexamos um documento e perguntamos:
Qual é a principal conclusão do autor?
A pergunta isolada é insuficiente. O documento faz parte do contexto necessário para respondê-la.
Por isso, contexto não significa apenas “o que eu escrevi agora”. É o conjunto de informações disponíveis para orientar a resposta.
Quanto maior a janela de contexto, melhor?
Não necessariamente.
Janelas maiores permitem trabalhar de uma só vez com conversas extensas, documentos, código, áudio, vídeo e outros materiais.
Modelos atuais já podem lidar com volumes de contexto muito maiores do que as primeiras gerações de sistemas generativos.
Isso amplia bastante as possibilidades. Porém, capacidade não significa necessidade.
A própria documentação do Google recomenda evitar o envio de informações que não sejam necessárias para a tarefa. Contextos maiores também podem aumentar custos e tempo de processamento.
Há ainda um problema mais simples: informação irrelevante também é contexto.
Se você entrega dez documentos quando apenas dois interessam, inclui instruções contraditórias ou mantém uma conversa longa cheia de mudanças de direção, o modelo precisa encontrar o que realmente importa no meio desse material.
Mais contexto pode ajudar.
Contexto relevante ajuda muito mais.
Contexto e memória são a mesma coisa?
Não.
Essa distinção evita bastante confusão.
A janela de contexto reúne aquilo que está disponível ao modelo naquela interação. Já uma funcionalidade de memória pode armazenar determinada informação para recuperá-la em outro momento.
Um sistema também pode consultar documentos, bancos de dados ou mecanismos de busca e acrescentar os resultados àquilo que o modelo recebe.
Em todos esses casos existe uma diferença entre guardar informação e colocar informação diante do modelo no momento em que ele precisa utilizá-la.
É por isso que modelos de linguagem podem trabalhar com informações que não estavam originalmente em seu treinamento.
O importante é que essas informações sejam trazidas para o contexto.
Por que organizar o contexto importa?
Imagine que você entregue três documentos a uma IA e escreva apenas:
Analise.
Tecnicamente há bastante contexto. Editorialmente, há pouca direção.
Agora compare:
Com base nos três documentos fornecidos, identifique apenas as divergências entre os autores sobre o conceito de inteligência. Apresente primeiro os pontos de desacordo e depois as convergências.
O material é o mesmo.
O que mudou foi a organização entre contexto e instrução.
A Anthropic recomenda separar claramente documentos, contexto, exemplos e instruções em tarefas complexas justamente para reduzir ambiguidades.
Em entradas longas, também recomenda estruturar os materiais e posicionar a pergunta de maneira que fique evidente o que deve ser feito com eles.
Isso ajuda a entender uma mudança importante: escrever bons prompts continua útil, mas trabalhar bem com IA envolve cada vez mais organizar aquilo que o modelo precisa saber.
O prompt não trabalha sozinho
Quando usamos um chatbot simples, a caixa de texto dá a impressão de que toda a interação começa ali.
Por baixo dela, pode existir muito mais.
O modelo recebe uma instrução, mas também pode receber histórico, documentos, exemplos, regras e informações recuperadas de outras fontes. Tudo isso influencia a resposta.
Essa diferença também explica por que o mesmo modelo pode se comportar de maneiras bastante distintas em produtos diferentes.
Como vimos em O que é um modelo de linguagem e como ele funciona?, o modelo é apenas uma parte do sistema.
Quando começamos a combinar modelo, contexto, instruções, memória, ferramentas e mecanismos de execução, surge uma camada maior ao redor dele.
É justamente essa camada que aparece no próximo texto da trilha: o harness.
DA INSTRUÇÃO À AÇÃO
Anterior: O que é um prompt de IA e como escrever um bom prompt?
2 de 6 — Janela de contexto
Próximo: Harness: o que é e por que vai além do prompt na Inteligência Artificial?