Quando uma empresa coloca um chatbot para atender clientes, surge uma pergunta prática: o que impede a IA de dizer algo errado, prometer desconto que não existe ou revelar dados internos? A resposta são os guardrails.
O que são
Guardrails, ou grades de proteção, são medidas que mantêm o comportamento da IA dentro de limites definidos. Eles não tornam o modelo mais inteligente. Apenas restringem o que ele pode receber, dizer e fazer.
Alguns exemplos de limites comuns:
- recusar pedidos que envolvam conteúdo perigoso ou ilegal;
- ficar no assunto da empresa e não opinar sobre política ou saúde;
- não informar dados pessoais de outros clientes;
- exigir confirmação humana antes de ações como reembolso ou exclusão de dados.
Onde ficam as camadas
Em geral, a proteção vem em camadas, porque cada uma tem falhas diferentes.
No modelo
O próprio treinamento ensina o modelo a recusar certos pedidos. É a camada mais geral, definida pelo desenvolvedor do modelo, e você não controla.
No prompt
Instruções escritas por você dizem qual é o papel da IA, o tom, o que ela não pode fazer e quando deve passar para uma pessoa. Veja a diferença entre as mensagens em prompt de sistema e mensagem do usuário.
Nos filtros de entrada e saída
Um programa confere o texto antes de chegar ao modelo e a resposta antes de chegar ao cliente. Pode bloquear palavras, padrões como número de documento ou respostas fora do formato esperado.
Nas permissões
Se a IA usa ferramentas, como consultar pedidos ou enviar e-mails, o limite mais forte é dar acesso mínimo: somente leitura quando possível e confirmação humana para ações irreversíveis.
Onde os guardrails falham
Textos escritos para enganar o modelo (às vezes chamados de injeção de prompt) tentam fazê-lo ignorar as regras. Um documento ou página lida pela IA também pode conter instruções escondidas. Por isso, instruções no prompt sozinhas não bastam quando há dados sensíveis envolvidos.
Há ainda o excesso: filtros rígidos demais recusam pedidos legítimos e frustram o cliente. O ideal é testar com perguntas reais e ajustar.
Como começar no seu negócio
- Defina o que a IA pode e não pode responder, em lista curta.
- Escreva isso no prompt e inclua a regra de encaminhar para uma pessoa.
- Teste com perguntas comuns, perguntas fora do assunto e tentativas de burlar as regras.
- Dê o mínimo de acesso a dados e ferramentas.
- Guarde um registro das conversas, respeitando a privacidade, e revise de tempos em tempos.
Mesmo com tudo isso, continue conferindo respostas importantes, como explicado em alucinação de IA. Para temas de lei, saúde e dinheiro, a IA deve orientar de forma geral e indicar um profissional.