Modelos de linguagem escrevem uma palavra (ou pedaço de palavra) por vez. A cada passo, eles calculam probabilidades para as próximas opções. A temperatura define como essa escolha é feita.
Como a temperatura funciona
Imagine que, depois de "O céu está", o modelo considera "azul" como muito provável, "nublado" como menos e "cheio de estrelas" como improvável. Com temperatura baixa, ele quase sempre escolhe as opções mais prováveis. Com temperatura alta, a diferença entre elas diminui e as menos prováveis ganham chance.
O efeito prático:
- Temperatura baixa: respostas mais estáveis, parecidas entre si a cada nova tentativa.
- Temperatura alta: respostas mais variadas, com ideias menos óbvias e maior chance de erro ou de texto sem sentido.
A escala e o valor padrão dependem do serviço e do modelo, então consulte a documentação do que você usa.
Quando usar valores mais baixos
Prefira baixa temperatura quando precisa de consistência e exatidão:
- extrair dados de um texto;
- classificar mensagens;
- gerar código ou fórmulas;
- resumir documentos com fidelidade.
Mesmo assim, temperatura baixa não elimina erros. A IA ainda pode inventar informações, e o artigo Alucinação de IA: o que é e como conferir uma resposta explica como checar.
Quando usar valores mais altos
Temperatura mais alta ajuda quando você quer variedade:
- listar ideias de nomes ou títulos;
- propor ângulos diferentes para um texto;
- brincar com histórias e slogans.
Depois, revise com cuidado. Quanto mais criativa a saída, mais é preciso conferir fatos.
Outros ajustes parecidos
Algumas plataformas também oferecem o top p, que limita as escolhas ao grupo de palavras cuja probabilidade somada atinge certo valor. Ele atua sobre a mesma ideia de controlar variedade. Em geral, recomenda-se mexer em um ajuste por vez para entender o efeito.
Como testar
Peça a mesma tarefa três ou quatro vezes com o mesmo ajuste e compare. Se as respostas mudam pouco, a variação é baixa. Depois mude o parâmetro e repita. Para melhorar os resultados além do ajuste, vale ler Como escrever bons prompts para IA (com exemplos prontos).