Prompt, RAG ou Fine-Tuning? Um Roteiro de Decisão para Quem Financia o Projeto

Quando um projeto de IA generativa sai do piloto, a pergunta que aparece na mesa do comitê é quase sempre a mesma: "o modelo não conhece o nosso negócio — precisamos treinar um só nosso?". A resposta curta é: quase nunca como primeiro passo. Existem três alavancas para adaptar um modelo à realidade da empresa — prompt, RAG e fine-tuning — e elas não são concorrentes, e sim degraus de uma escada com custo, prazo e risco crescentes.

Três alavancas, três problemas diferentes

O erro de decisão mais comum nasce de confundir o tipo de falha do modelo. Cada alavanca resolve um problema distinto:

• Engenharia de prompt e contexto: resolve falhas de instrução. O modelo tem a capacidade, mas não sabe o formato, o tom, os critérios ou as regras que você espera. Custo baixo, ajuste em horas, totalmente reversível.
• RAG (geração aumentada por recuperação): resolve falhas de conhecimento. O modelo não conhece seus contratos, políticas ou dados de hoje. A informação é buscada em uma base da empresa no momento da pergunta e entregue ao modelo junto com ela. Permite citar a fonte, respeitar permissões de acesso e atualizar o conteúdo sem retreinar nada.
• Fine-tuning: resolve falhas de comportamento. O modelo passa por um treinamento adicional com exemplos seus para adotar de forma consistente um estilo, um formato rígido ou uma tarefa muito especializada. Técnicas como LoRA reduziram muito o custo de treinar, mas o custo real continua em curar dados de qualidade, avaliar e manter o modelo a cada nova versão do modelo-base.

Uma regra prática: se a resposta errada é "não sabia a informação", o caminho é RAG. Se é "sabia, mas respondeu no formato ou no tom errado", comece por prompt. Só quando essas duas alavancas foram levadas ao limite e a falha persiste em escala é que o fine-tuning entra na conversa.

Por que a ordem importa

Subir a escada fora de ordem custa caro por três motivos. Primeiro, o fine-tuning "congela" conhecimento: se a política de crédito mudou ontem, o modelo treinado continua respondendo com a regra antiga até o próximo ciclo de treinamento, enquanto um sistema com RAG lê o documento atualizado na hora. Segundo, dados sensíveis embutidos nos pesos do modelo são difíceis de auditar ou apagar, o que complica exigências da LGPD, como a eliminação de dados a pedido do titular. Terceiro, modelos-base evoluem rápido: um ajuste fino feito sobre uma versão pode perder o sentido, ou até piorar, quando a próxima chega, e o time precisa refazer todo o trabalho.

Já o caminho inverso, ficar apenas em prompt quando o problema é volume e consistência, também tem seu preço: prompts enormes e repetitivos aumentam custo por chamada e latência. É nesse ponto que o fine-tuning de um modelo menor e mais barato costuma se pagar — por exemplo, em uma classificação de alto volume com formato de saída rígido, em que um modelo pequeno ajustado substitui um modelo grande com prompt longo.

O que o executivo deve exigir da equipe

Antes de aprovar orçamento para treinamento, vale pedir quatro evidências. Um conjunto de casos de teste reais (as "evals") com a taxa de acerto atual. A classificação das falhas encontradas: instrução, conhecimento ou comportamento. O resultado de um prompt bem trabalhado e de um RAG bem construído sobre esses mesmos casos. E uma estimativa do custo total de manutenção do modelo ajustado, e não apenas do treinamento inicial.

Na prática, a maioria dos sistemas corporativos maduros acaba combinando as três alavancas: prompt para regras e formato, RAG para conhecimento vivo da empresa e, em casos específicos, um modelo ajustado para ganhar consistência ou reduzir custo em larga escala. A diferença está em chegar lá guiado por medição, e não por intuição. Na metodologia de roadmap de IA que usamos como base, essa disciplina de "medir antes de escalar" é o que separa o piloto que vira produto do piloto que vira gasto.