Quando um sistema de IA erra um cálculo, o problema é fácil de ver. Quando ele erra de forma sistemática com um grupo de pessoas, nem sempre é. Esse é o viés, um dos temas mais discutidos em ética e regulação da tecnologia. Entender de onde ele vem, onde aparece e como lidar com ele ajuda tanto quem usa IA no dia a dia quanto quem a adota em um negócio.
O que é viés em IA
Viés, ou viés algorítmico, é a tendência de um sistema produzir resultados sistematicamente desiguais ou distorcidos, favorecendo ou prejudicando certos grupos por características como gênero, cor da pele, idade, sotaque, região ou renda.
Não se trata de “a máquina ser racista” ou “machista” por vontade própria. A IA não tem opiniões. O problema é que ela aprende com o que as pessoas produziram, e o que as pessoas produziram carrega as desigualdades do mundo.
De onde o viés vem
Dados de treinamento desequilibrados
Se um sistema de reconhecimento de voz foi treinado quase só com sotaques de uma região, vai errar mais com os demais. Se um modelo de imagens viu poucos rostos de determinado grupo, reconhecerá esses rostos pior.
Dados que refletem o passado
Se uma empresa contratou majoritariamente homens para um cargo por anos e treina um modelo com esse histórico, o sistema pode concluir que “candidato ideal” se parece com os que foram contratados antes. Um caso muito citado é o de uma ferramenta de seleção de currículos que uma grande empresa de tecnologia deixou de usar, após notar que ela penalizava currículos associados a mulheres.
Escolhas de projeto
Quais variáveis entram no modelo, o que ele busca otimizar e como o sucesso é medido são decisões humanas. Um modelo que busca “maximizar cliques” pode, por exemplo, favorecer conteúdo sensacionalista.
Rótulos e avaliações humanas
Muitos modelos aprendem com pessoas que marcam o que é bom ou ruim. As opiniões e a cultura desses avaliadores acabam entrando no sistema.
Uso fora do contexto
Um modelo criado para uma população ou situação e usado em outra tende a falhar. Foi o que estudos sobre reconhecimento facial mostraram a partir de 2018: taxas de erro maiores para mulheres de pele mais escura do que para homens de pele mais clara.
Onde o viés aparece no dia a dia
- Seleção de candidatos: filtros de currículo que reproduzem padrões de contratações passadas.
- Crédito e seguros: modelos que avaliam risco e podem penalizar quem mora em certas regiões.
- Reconhecimento facial e de voz: mais erros com alguns grupos.
- Chats de IA: respostas que repetem estereótipos ao descrever profissões, nacionalidades ou gêneros.
- Geradores de imagem: ao pedir “uma pessoa bem-sucedida” ou “uma enfermeira”, os resultados tendem a repetir os mesmos perfis.
- Anúncios e recomendações: conteúdos e ofertas diferentes para perfis diferentes, que podem reforçar desigualdades ou limitar o que cada pessoa vê.
- Tradução automática: escolha de gênero em profissões quando o idioma de origem não marca gênero.
Como perceber viés quando você usa IA
Você mesmo pode testar, sem conhecimento técnico:
- Troque um detalhe e compare. Peça a mesma coisa mudando só o gênero, a idade ou a origem da pessoa descrita.
- Peça justificativa. “Por que você sugeriu isso? Que critérios usou?” Respostas vagas merecem desconfiança.
- Peça versões diversas. “Dê exemplos com perfis variados de pessoas.”
- Compare ferramentas. Se duas IAs respondem de formas muito diferentes, vale investigar.
- Desconfie de generalizações sobre grupos de pessoas, mesmo com tom neutro.
Um exemplo prático: peça “descreva as qualidades de um bom líder” e, em outra conversa, “descreva as qualidades de uma boa líder”. Compare os adjetivos. Se uma resposta destaca firmeza e decisão e a outra, simpatia e acolhimento, há um estereótipo no modelo, mesmo que cada resposta, sozinha, pareça razoável.
Esse hábito combina com a verificação geral de respostas. O guia como conferir as respostas da IA tem passos que servem aqui também.
O que quem adota IA em um negócio deve fazer
Se você usa IA para decisões que afetam pessoas, como triagem de candidatos, concessão de desconto, crédito ou atendimento prioritário, o cuidado precisa ser maior.
- Não deixe a máquina decidir sozinha. Use a IA como apoio e mantenha uma pessoa revisando.
- Pergunte ao fornecedor com quais dados o sistema foi treinado e se foi testado para diferentes grupos.
- Teste com casos reais da sua operação, separando por perfis, e observe diferenças de resultado.
- Dê um caminho de contestação. Quem foi afetado deve conseguir pedir revisão. A LGPD prevê o direito de revisão de decisões tomadas apenas por tratamento automatizado. Veja IA e LGPD.
- Registre critérios e mudanças, para poder explicar as decisões depois.
O que as empresas de IA e a lei fazem
As empresas que criam modelos tentam reduzir o viés com dados mais variados, testes de avaliação e regras de segurança. Isso melhora o quadro, mas não resolve tudo.
Do lado das leis, o debate sobre regras para IA no Brasil e no mundo coloca a não discriminação entre seus pontos centrais. O artigo sobre a regulação da IA no Brasil mostra o que existe e o que está em discussão.
Para levar com você
Daqui para a frente, trate respostas de IA sobre pessoas, grupos e perfis com um pouco mais de atenção. Quando for usá-las em algo importante, faça o teste de trocar um detalhe e comparar, peça os critérios e revise antes de agir. Para quem quer entender a base técnica do fenômeno, os dados e o treinamento são explicados em IA, machine learning e deep learning.