Você passa meia hora conversando com uma IA, define regras no começo e, lá pelo final, ela ignora metade delas. Isso não é teimosia: é consequência de como esses modelos funcionam.
O que é a janela de contexto
O modelo não guarda a conversa como uma pessoa guarda lembranças. A cada resposta, ele recebe um bloco de texto com o que foi dito até ali e trabalha em cima dele. O tamanho máximo desse bloco é a janela de contexto.
Esse limite é medido em tokens, pedaços de texto menores que uma palavra. Se quiser entender melhor essa unidade, leia o que é token em IA. Cada modelo tem um limite próprio, e ele muda com novas versões, então consulte a documentação da ferramenta que você usa.
O que acontece quando o limite chega
Quando a conversa fica longa demais, a ferramenta precisa decidir o que manter. Dependendo do serviço, ela pode:
- Cortar as mensagens mais antigas.
- Resumir o começo da conversa.
- Avisar que o limite foi atingido.
Em qualquer caso, instruções dadas no início podem perder força. Mesmo quando tudo cabe, textos muito longos podem fazer o modelo dar menos atenção a certos trechos do meio.
Como trabalhar dentro do limite
Alguns hábitos ajudam bastante:
- Comece cada tarefa nova em uma conversa nova, em vez de reaproveitar uma conversa enorme.
- Coloque as regras mais importantes no início e repita-as quando pedir algo diferente.
- Cole apenas o trecho necessário de um documento, não ele inteiro.
- Peça um resumo do que já foi decidido e use esse resumo como ponto de partida na próxima conversa.
- Divida tarefas grandes em etapas, revisando uma de cada vez.
Um modelo de resumo para continuar depois
Quando precisar retomar um trabalho, peça algo como: resuma em tópicos o objetivo, as decisões já tomadas, o tom de voz e o que falta fazer. Copie esse resumo e use-o como primeira mensagem da conversa seguinte. Assim você controla o que fica e não depende de a ferramenta decidir sozinha.
Cuidado com informações sensíveis
Evitar enviar dados pessoais ou de clientes continua sendo importante, mesmo ao resumir. Antes de colar um texto, remova nomes, documentos e informações que não sejam necessárias para a tarefa. Para melhorar a qualidade do que você pede, veja também como escrever bons prompts para IA, porque um pedido claro e curto aproveita melhor o espaço disponível.