Você pergunta algo ao assistente de IA e recebe uma resposta clara, bem escrita e cheia de detalhes. Só que parte dela pode ser falsa. Isso tem nome: alucinação.
O que é alucinação de IA
É quando o modelo gera um conteúdo que não corresponde à realidade e apresenta como se fosse fato. Exemplos comuns:
- Um livro, estudo ou artigo que não existe, com título e autor convincentes.
- Um link que parece certo, mas leva a uma página inexistente.
- Uma citação atribuída a alguém que nunca disse aquilo.
- Um passo de configuração para um menu que não existe naquele programa.
O tom seguro é o que torna o problema perigoso: o erro não vem avisado.
Por que acontece
Os modelos de linguagem aprendem padrões de texto e calculam qual palavra provavelmente vem a seguir. Eles não consultam um banco de fatos conferidos. Se a pergunta cai numa área em que o modelo sabe pouco, ele tende a completar com algo que soa natural em vez de admitir que não sabe.
O risco aumenta com perguntas sobre fatos recentes, nomes pouco conhecidos, números exatos, leis e dados locais.
Como reduzir o risco ao perguntar
- Dê contexto e materiais. Se você colar o texto de base e pedir para responder só com ele, o erro diminui. Veja mais em como escrever bons prompts para IA.
- Permita que ela diga que não sabe. Inclua algo como: se não tiver certeza, avise.
- Peça a fonte de cada afirmação importante, para você mesmo abrir e checar.
- Divida perguntas grandes em partes pequenas, que são mais fáceis de conferir.
Como conferir uma resposta
- Busque a informação em um site oficial, como órgão público, fabricante ou o próprio serviço citado.
- Abra os links que a IA deu. Se não abrirem, ou não falarem do assunto, descarte a afirmação.
- Procure o mesmo dado em duas fontes independentes.
- Em dinheiro, saúde, direito e impostos, use a resposta só como ponto de partida e confirme com um profissional.
- Para textos de venda, siga um roteiro de revisão como o de checklist para conferir um anúncio escrito por IA.
Quando o risco é menor
Tarefas em que você mesmo fornece o conteúdo, como resumir um texto seu, reescrever um e-mail ou organizar uma lista, têm menos chance de invenção, porque a IA trabalha em cima do que você deu. Mesmo assim, leia o resultado antes de enviar: ela pode omitir ou trocar um detalhe.
Tratar a IA como um assistente rápido, e não como uma fonte final, é o hábito que evita a maioria dos problemas.