Fine-tuning, ou ajuste fino, é pegar um modelo de IA já treinado e continuar o treinamento com um conjunto menor de exemplos seus. O resultado é um modelo que responde de um jeito mais consistente em uma tarefa específica. Parece sempre a melhor saída, mas na prática é a última etapa de uma escada.
A escada: do mais simples ao mais complexo
- Prompt melhor: instruções claras, formato esperado e contexto.
- Exemplos no prompt: mostrar dois ou três casos de entrada e saída ideal.
- Consulta a documentos: dar à IA acesso ao seu material. Veja IA que responde com base em documentos: o que é RAG.
- Fine-tuning: treinar o modelo com muitos exemplos.
Suba um degrau só quando o anterior não bastar. Cada etapa custa mais tempo, dinheiro e manutenção.
Quando o fine-tuning faz sentido
- Você precisa de um estilo ou tom muito específico, repetido em grande volume.
- A tarefa tem formato rígido, como classificar mensagens em categorias fixas ou extrair campos de textos.
- O prompt ficou enorme, com muitos exemplos, e isso encarece e atrasa cada resposta.
- Você tem uma base de bons exemplos, revisados por pessoas.
Quando não compensa
Fine-tuning não é a melhor forma de ensinar fatos que mudam, como preços, políticas ou catálogo. O que foi aprendido no treinamento fica fixo até você treinar de novo. Para informação atualizada, consultar documentos é mais prático.
Também não compensa se você tem poucos exemplos, ou exemplos de qualidade irregular. O modelo aprende os erros junto com os acertos.
O que considerar antes de começar
- Os dados: contêm informação pessoal ou confidencial? Confira a política do fornecedor sobre o uso desses dados e a legislação de proteção de dados.
- O custo: além do treinamento, há o preço de usar o modelo ajustado, que pode ser diferente do modelo original.
- A manutenção: quando o fornecedor lançar um modelo novo, talvez seja preciso refazer o ajuste.
- A avaliação: defina de antemão como medir se ficou melhor.
Os recursos e preços de fine-tuning mudam com frequência e variam entre fornecedores. Consulte a documentação oficial do serviço que você pretende usar.
