Você pergunta algo a um chatbot e a resposta vem confiante, mas sem dizer de onde tirou. Em outros casos, você vê a resposta acompanhada de links para os textos usados. A diferença costuma estar numa técnica com nome estranho: RAG. Entender o que ela faz ajuda a escolher melhor as ferramentas e a saber quando confiar, e quando conferir.
O problema que o RAG resolve
Um modelo de linguagem aprende padrões de texto durante o treinamento, e esse treinamento tem uma data final. Ele não conhece os documentos da sua empresa, o regulamento da sua loja nem o que mudou ontem. Quando é perguntado sobre algo que não sabe, pode dar uma resposta plausível, mas inventada, no que se chama de alucinação. O artigo o que é um LLM e como funciona explica por que isso acontece.
A ideia do RAG é simples: em vez de pedir que a IA responda de memória, entregue a ela o material certo na hora da pergunta e peça que responda com base nele.
Como funciona, em quatro passos
- Preparar os documentos. O material (artigos, manuais, políticas, perguntas frequentes) é dividido em trechos menores e organizado para ser buscado.
- Buscar o que interessa. Quando alguém faz uma pergunta, o sistema procura os trechos mais relacionados. A busca pode olhar palavras em comum ou o sentido do texto, usando uma representação numérica chamada embedding, que aproxima textos de significado parecido.
- Montar o pedido. Os trechos encontrados são enviados ao modelo junto com a pergunta, e a instrução é responder usando esse material.
- Responder e citar. O modelo escreve a resposta e, em geral, indica de quais trechos ou documentos ela veio.
O nome vem daí: recuperação (buscar) mais geração (escrever).
Por que isso ajuda a citar fontes e inventar menos
- Fonte à vista. Como o sistema sabe quais trechos entregou, consegue mostrar de onde a resposta veio, e você confere.
- Conteúdo atualizável. Trocar um documento é mais rápido do que retreinar um modelo. Atualizou o material, a próxima resposta já usa a versão nova.
- Foco no seu assunto. O sistema pode ser instruído a responder só com base no material, e a dizer que não encontrou quando não houver resposta.
- Menos invenção. Com o texto certo diante dos olhos, o modelo tem menos motivo para preencher lacunas.
Onde o RAG ainda pode falhar
RAG reduz o problema, mas não o resolve por completo:
- Busca ruim. Se o trecho certo não é encontrado, a IA responde com o que veio, que pode ser irrelevante.
- Documento errado ou velho. A IA repete o que o material diz, inclusive erros.
- Contexto perdido. Um trecho solto pode mudar de sentido sem as frases ao redor.
- Mistura com conhecimento prévio. O modelo pode completar a resposta com algo que não está no material.
- Perguntas que exigem várias fontes. Juntar informações de documentos diferentes é mais difícil.
Por isso, quando uma resposta importa, abra a fonte citada e confira. O texto a IA inventou uma resposta: como perceber e o que fazer mostra como transformar a verificação em hábito.
RAG, colar o texto no chat e ajustar o modelo
Três caminhos diferentes para fazer a IA usar o seu conteúdo:
- Colar o texto no chat. Funciona para um documento curto. É simples, mas esbarra no limite de tamanho da conversa e exige colar de novo toda vez.
- RAG. Indicado para muitos documentos ou documentos longos: o sistema busca só o trecho necessário. Exige montar a busca e manter o material organizado.
- Ajuste do modelo (fine-tuning). Treina o modelo para seguir um estilo ou tarefa. Não é a melhor forma de ensinar fatos que mudam.
Ferramentas como o NotebookLM usam essa lógica de responder com base nos arquivos que você envia. O mesmo princípio vale para uma loja que queira um assistente respondendo conforme as regras do próprio negócio.
Um exemplo no próprio blog: o Assistente Meta
O Assistente Meta funciona nessa linha: ele responde usando só os artigos do blog e mostra de quais artigos tirou a resposta. Se o blog não cobre o assunto, ele não responde, em vez de inventar. É um exemplo prático de como a IA fica presa a um conjunto de documentos e deixa o rastro das fontes.
Ele tem limites, como qualquer sistema desse tipo. Só sabe o que está nos artigos, e a resposta depende do que foi encontrado. Também não substitui profissional: em saúde, questões jurídicas ou investimento, procure alguém habilitado. Use as fontes mostradas para ler o artigo completo.
Como testar uma IA que usa seus documentos
Se você vai montar ou contratar um assistente desse tipo, faça testes antes de liberar para o público:
- Pergunte coisas cuja resposta você conhece e compare.
- Faça uma pergunta que não está nos documentos. O comportamento esperado é dizer que não encontrou, e não inventar.
- Confira se as fontes citadas dizem mesmo o que a resposta afirma.
- Teste com termos diferentes para a mesma pergunta, como sinônimos e erros de digitação.
- Atualize um documento e veja se a resposta muda.
- Revise a privacidade. Documentos com dados pessoais ou sigilosos exigem cuidado sobre onde são enviados e quem acessa. O texto chatbot com IA no site lembra os cuidados ao colocar um assistente em contato com o público.
Por onde começar
Escolha um conjunto pequeno de documentos que você conhece bem, como o regulamento de trocas da loja, e teste uma ferramenta que cita fontes. Faça cinco perguntas com resposta conhecida e uma sem resposta. Se ela acertar e disser “não encontrei” quando deve, você já entendeu o valor do RAG e o cuidado que ele pede.