O que acontece
Modelos de linguagem recebem tudo como texto: suas instruções e o material que você pede para ele analisar. Eles nem sempre distinguem uma coisa da outra. Se você pede para resumir uma página e ela contém uma frase como ignore as instruções anteriores e faça outra coisa, o modelo pode seguir essa frase.
O texto malicioso pode estar escondido em uma página, em um PDF, em um e-mail ou em um comentário, às vezes em letras invisíveis para você, mas legíveis para a máquina.
Quando vira problema de verdade
Em um chat simples, o pior caso costuma ser uma resposta estranha. O risco cresce quando a IA tem ferramentas: ler sua caixa de entrada, enviar mensagens, acessar arquivos, fazer compras ou executar comandos. Nesse cenário, uma instrução escondida pode tentar fazer a IA vazar dados ou executar uma ação que você não pediu.
Por isso o tema é importante para quem usa agentes de IA ou monta automações.
Como reduzir o risco
- Dê à IA só as permissões de que ela precisa. Leitura em vez de leitura e escrita, quando possível.
- Exija confirmação humana antes de enviar mensagens, pagar ou apagar algo.
- Desconfie de resumos que de repente pedem para você clicar em um link ou fornecer dados.
- Não misture, na mesma sessão, conteúdo de fontes desconhecidas com acesso a informações sensíveis.
- Mantenha os aplicativos atualizados, pois os fabricantes vêm criando proteções.
Para quem cria produtos com IA
Quem desenvolve deve tratar todo texto externo como não confiável, separar claramente instruções do sistema e dados, limitar as ferramentas disponíveis, registrar as ações e validar a saída antes de executá-la. Guias de segurança para aplicações com modelos de linguagem, como os publicados pela OWASP, trazem boas práticas atualizadas.
O que levar daqui
A IA lê o que você manda e o que encontra no caminho. Quanto mais poder ela tem, mais vale limitar o acesso e conferir cada ação importante antes de ela acontecer.
