Você pede uma informação, a resposta vem bem escrita, cheia de detalhes, e depois descobre que metade era invenção: um livro que não existe, uma lei com número errado, uma função de programa que nunca foi criada. Isso é comum e tem nome: alucinação. Entenda por que acontece, como perceber e o que fazer na hora.
O que é uma alucinação de IA
Alucinação é quando um modelo de linguagem produz uma informação falsa ou sem base, apresentada como se fosse correta. O modelo não consulta um banco de fatos; ele escolhe, palavra por palavra, o que parece mais provável depois do que já foi escrito. Se o assunto é raro ou o pedido induz a uma resposta específica, ele pode completar a lacuna com algo plausível, mas inventado.
Tipos comuns de invenção:
- Fontes que não existem: livros, artigos, estudos e links falsos.
- Citações atribuídas à pessoa errada ou nunca ditas.
- Números e estatísticas sem origem.
- Leis, artigos e processos com numeração incorreta.
- Recursos que o programa não tem, tanto em aplicativos quanto em linguagens de programação.
- Fatos sobre pessoas e empresas pequenas, que o modelo conhece pouco.
Por que isso acontece
Alguns fatores aumentam a chance de erro:
- Falta de informação: o tema é muito específico, local ou recente.
- Pedido que pressupõe algo falso: “Resuma o livro X de Y”, quando o livro não existe, pode gerar um resumo inventado.
- Pressão por resposta: se você exige uma resposta e não permite “não sei”, a chance de inventar sobe.
- Conversa longa demais: o modelo pode perder partes do contexto.
- Tarefas de cálculo e lógica complexa, nas quais um passo errado contamina o resto.
Entender essas causas ajuda a evitar situações de risco. Em resumo, o sistema foi feito para escrever bem, e não para garantir que o que escreve seja verdade.
Um exemplo do dia a dia
Você pergunta ao assistente: “Qual livro do autor X fala sobre produtividade?” e ele responde com um título que parece perfeito, ano de publicação e até uma sinopse. Quando você procura em livrarias e catálogos, o livro não existe. O assistente juntou um nome de autor real, um tema plausível e um título que parece verdadeiro. A frase da pergunta pressupunha que o livro existia, e ele seguiu o pressuposto. A forma mais segura de perguntar seria: “O autor X escreveu algo sobre produtividade? Se não tiver certeza, diga.”
Como perceber que algo está errado
Alguns sinais indicam que vale desconfiar:
- detalhes muito específicos que você não consegue achar em nenhum outro lugar;
- links que não abrem ou levam a páginas sobre outro assunto;
- respostas diferentes quando você repete a pergunta;
- o assistente se contradiz na mesma conversa;
- ele concorda com uma afirmação errada sua e “confirma” com detalhes;
- tom de total certeza em um assunto controverso ou pouco documentado.
Uma técnica simples: refaça a pergunta em uma conversa nova ou em outro assistente. Se as respostas divergirem em fatos, algo está errado.
O que fazer na hora que perceber
- Não use a informação até conferir.
- Pergunte a origem: “De onde você tirou isso? Indique a fonte exata ou diga que não tem.”
- Peça o grau de certeza: “Quais partes você tem mais dúvida?”
- Procure fora: abra o Google e busque o dado, a lei ou o título citado.
- Corrija o assistente: diga “isso não existe” e peça uma nova resposta usando apenas o que for verificável.
- Comece uma conversa nova se a atual já estiver confusa, resumindo o contexto no primeiro pedido.
O processo completo de verificação está em como conferir as respostas da IA.
Como reduzir a chance de invenção
Você não elimina o problema, mas pode diminuí-lo bastante:
- Forneça o texto de base e diga “responda apenas com base no texto abaixo”. Isso funciona bem para resumos e análises.
- Permita o ‘não sei’: “Se não tiver certeza, diga que não sabe.”
- Faça perguntas neutras: em vez de “por que a empresa X faliu em 2019?”, pergunte “a empresa X faliu? Quando?”.
- Divida tarefas grandes em etapas menores.
- Peça passo a passo em contas e raciocínios, e confira cada etapa.
- Use recursos de pesquisa na web quando o assunto for atual, e abra os links.
- Escreva pedidos claros: o guia de como escrever bons prompts para IA ajuda.
Quando o erro pode custar caro
Em alguns contextos, uma informação inventada tem consequências sérias. Já houve casos de profissionais que apresentaram em documentos oficiais citações de decisões que não existiam, geradas por IA. Para evitar problemas parecidos:
- Direito, impostos e contratos: confirme leis e decisões nos sites oficiais e consulte um advogado ou contador.
- Saúde: não tome decisões sobre diagnóstico ou medicação com base no assistente.
- Trabalhos acadêmicos: confira cada referência bibliográfica; referência falsa pode ser tratada como fraude.
- Imprensa e comunicação: nunca publique um dado sem fonte verificável.
- Programação: teste o código antes de colocar em produção.
Quando a invenção não é o problema
Nem todo erro é alucinação. Às vezes a resposta está certa, mas desatualizada, ou você fez um pedido ambíguo. Nesses casos, refaça a pergunta com mais contexto e indique a data ou a versão que importa. Se o assistente errar demais em um tipo de tarefa, teste outro, como mostra o comparativo ChatGPT, Gemini ou Claude. Para mais conteúdos sobre uso responsável, veja a categoria de inteligência artificial.