Fine-tuning, RAG ou prompt: como dar o conhecimento da sua empresa a um agente de IA (e qual escolher)
Muita gente acha que “treinar a IA com os dados da empresa” significa fine-tuning. Quase nunca significa. Aqui eu separo as três formas de ensinar um agente — e mostro qual resolve o seu caso sem queimar dinheiro.
Existem três formas de ensinar a sua empresa a um agente de IA: o prompt (a instrução que define o comportamento), o RAG (busca do conhecimento certo nos seus documentos na hora da pergunta) e o fine-tuning (treino do próprio modelo com exemplos). Elas não competem — resolvem problemas diferentes. Para a maioria das empresas brasileiras, prompt bem escrito somado a RAG resolve 90% dos casos. Fine-tuning é otimização de estágio avançado, cara e lenta de manter, que raramente é o lugar certo para começar.
Eu construo agentes de IA para empresas todo dia, e a confusão número um que escuto é “quero treinar a IA com os meus dados”. Na quase totalidade das vezes, a pessoa não precisa de treino nenhum — precisa de RAG. Vou explicar a diferença de um jeito que você decide sozinho.
- Prompt = o comportamento (quem ele é, o que pode e não pode fazer).
- RAG = o conhecimento atualizado da empresa (preços, políticas, catálogo).
- Fine-tuning = um padrão de resposta gravado no modelo, para casos muito específicos.
- Comece por prompt + RAG. Fine-tuning só quando esses dois não dão conta.
O que é cada um (sem jargão)
Pensa num funcionário novo. Você pode ensinar ele de três jeitos, e eles equivalem exatamente aos três métodos:
- Prompt (a instrução): é o manual de conduta que você entrega no primeiro dia — “você atende assim, nunca promete prazo, se o cliente pedir desconto você faz X”. Define como ele se comporta. É o system prompt do agente de IA, e é onde 70% do resultado é decidido.
- RAG (a consulta ao conhecimento): é dar a ele acesso à pasta de documentos da empresa para consultar na hora da dúvida — tabela de preços, política de troca, ficha do produto, histórico do cliente. Ele busca a informação certa e responde com base nela. É o jeito de o agente saber fatos da sua empresa.
- Fine-tuning (o treino): é pegar centenas de exemplos de “pergunta → resposta ideal” e treinar o modelo até ele incorporar aquele padrão no reflexo. Muda o jeito de responder, não o que ele sabe de fato.
Qual a diferença entre RAG e fine-tuning (a dúvida que mais aparece)
Essa é a confusão central, então vale fixar. RAG dá fatos. Fine-tuning dá comportamento.
Se o seu problema é “o agente precisa saber o preço do produto 15, a política de frete e o prazo de entrega da transportadora” — isso é RAG. Esse tipo de informação muda toda semana, e RAG lê o documento atualizado a cada pergunta. Você edita a planilha, o agente já responde certo no minuto seguinte.
Se você tentasse resolver isso com fine-tuning, estaria gravando o preço de hoje dentro do modelo. Quando o preço mudasse amanhã, o agente continuaria repetindo o antigo — e você teria que re-treinar. É por isso que, para conhecimento de empresa, fine-tuning é quase sempre a ferramenta errada. Eu detalho o lado do conhecimento no guia de base de conhecimento e RAG.
Regra que eu uso na prática: se a resposta certa depende de um dado que muda, é RAG. Se depende de um jeito de responder que é sempre igual, aí talvez seja fine-tuning.
Quando fine-tuning vale a pena de verdade
Fine-tuning não é inútil — é mal posicionado. Ele brilha em casos específicos:
- Tom de voz muito particular que o prompt não consegue reproduzir com consistência em toda resposta.
- Classificação em alto volume — por exemplo, triar milhares de mensagens por dia em categorias fixas, onde um modelo menor e ajustado sai mais barato e rápido que mandar tudo para um modelo grande.
- Saída em formato rígido e repetitivo, quando o prompt sozinho ainda escorrega de vez em quando.
Repare no padrão: fine-tuning é sobre forma e escala de um comportamento repetido — nunca sobre fatos. E ele só compensa quando você já tem muitos exemplos reais de qualidade para treinar. Sem bons exemplos, você grava o lixo que colocou. Não à toa, os próprios fornecedores de modelos, como a OpenAI em sua documentação de fine-tuning, recomendam esgotar prompt e busca de contexto antes de partir para o treino.
Quanto custa cada caminho
Aqui é onde a decisão fica concreta. O custo não é só a conta da API — é o custo de manter aquilo vivo.
- Prompt: custo de escrever e ajustar. Quase zero de manutenção — você edita o texto e pronto. É o mais barato e o mais rápido de iterar.
- RAG: custo de organizar os documentos e montar a busca. A manutenção é só manter os documentos atualizados — algo que a empresa já deveria fazer de qualquer jeito.
- Fine-tuning: custo de curar centenas de exemplos, rodar o treino, e depois usar um modelo ajustado que costuma sair mais caro por token. E cada vez que o comportamento precisa mudar, você re-treina. É o mais caro em dinheiro e em tempo de equipe.
Se você quer ver a matemática por trás da operação rodando, eu abro os números em custo por conversa de um agente de IA e no panorama de quanto custa implementar IA numa empresa no Brasil.
Como escolher: o fluxo que eu sigo
- Escreva o prompt primeiro. Defina comportamento, limites e tom. Teste. A maioria dos “problemas de IA” se resolve aqui, só reescrevendo a instrução.
- Falta conhecimento da empresa? Adicione RAG. Se o agente erra preço, política ou catálogo, o buraco é de fatos — ligue-o aos seus documentos.
- Ainda escorrega num padrão específico de resposta, com alto volume e exemplos reais em mãos? Aí, sim, considere fine-tuning. E só então.
Na prática, 9 em cada 10 agentes que eu coloco de pé param no passo 2. O passo 3 é exceção, não regra — e desconfie de quem te vende fine-tuning como primeira resposta, porque geralmente é tecnologia por tecnologia, não solução do seu problema. Esse raciocínio de camadas é o mesmo da anatomia de um agente de IA que funciona: instrução, conhecimento e ferramentas, cada um no seu lugar.
O erro caro que eu vejo acontecer
O erro clássico é a empresa gastar semanas (e orçamento) tentando fazer fine-tuning para o agente “aprender os produtos”, quando bastava uma base de conhecimento com RAG montada em dias. O resultado do fine-tuning mal feito é pior: um modelo que responde com confiança sobre dados que já estão desatualizados — o que aumenta o risco de o agente inventar resposta. Conhecimento sempre atualizado via RAG, somado a bons limites no prompt, é o que segura isso de pé.
É assim que eu trabalho com agentes de IA: começando pelo que dá retorno rápido e barato de manter, e subindo a complexidade só quando o problema exige. Quer entender onde a IA encaixa no seu negócio? Dá uma olhada no que faço em performance e IA.
Perguntas frequentes
Qual a diferença entre RAG e fine-tuning?
RAG dá conhecimento ao agente buscando a informação certa nos seus documentos na hora da pergunta — sem mexer no modelo. Fine-tuning treina o próprio modelo com exemplos para mudar o jeito dele responder. Regra simples: RAG para o agente SABER fatos atualizados (preços, políticas, catálogo); fine-tuning para ele RESPONDER de um jeito específico que o prompt não consegue reproduzir.
Preciso fazer fine-tuning para o agente usar os dados da minha empresa?
Não. Para dados da empresa — preços, catálogo, políticas, histórico do cliente — o caminho é RAG, não fine-tuning. Fine-tuning grava um comportamento no modelo, mas não atualiza fatos: se o preço muda amanhã, você teria que treinar de novo. RAG lê a informação atual a cada pergunta, então basta atualizar o documento.
Quanto custa fazer fine-tuning de um modelo de IA?
Fine-tuning custa o treino (processar centenas ou milhares de exemplos), o uso do modelo ajustado (que costuma ser mais caro por token que o modelo base) e, principalmente, o trabalho de montar e curar os exemplos de qualidade. Na maioria das empresas brasileiras, prompt bem escrito mais RAG resolve o caso por uma fração desse custo e sem o retrabalho de re-treinar.
Quando fine-tuning vale a pena de verdade?
Quando você precisa de um comportamento ou formato muito específico e repetitivo que o prompt não segura — um tom de voz próprio, uma classificação em alto volume, uma saída em formato rígido — e já tem muitos exemplos reais de qualidade. É otimização de estágio avançado, não o ponto de partida.
Posso combinar prompt, RAG e fine-tuning no mesmo agente?
Sim, e normalmente é o cenário ideal. O prompt define o comportamento e os limites, o RAG entrega o conhecimento atualizado da empresa e o fine-tuning (quando usado) fixa um padrão de resposta. Os três resolvem problemas diferentes e se somam.
Fundador da Gene Company. Especialista em sistemas e agentes de IA, criação de marcas e tráfego pago com ROI escalável para empresas. Santos/BR, atende Brasil e exterior. Fale comigo no WhatsApp →