Fine-tuning ou RAG: treinar um modelo de IA com os dados da sua empresa ou deixar que ele pesquise nos seus documentos

Se você quer que um modelo de IA responda a perguntas com base nos documentos da sua empresa, normalmente não precisa treiná-lo com eles. A geração aumentada por recuperação, ou RAG, pesquisa os seus documentos sempre que chega uma pergunta e passa ao modelo os trechos correspondentes junto com a pergunta. Fine-tuning (ajuste fino) significa continuar o treinamento de um modelo existente com exemplos que você prepara. Artigos científicos e guias de fornecedores dizem que ele é melhor para ensinar um formato ou um tom do que para ensinar fatos novos. Um teste com perguntas reais do seu negócio mostra de qual dos dois você precisa, ou se precisa dos dois.

Qual é a diferença entre fine-tuning e RAG?

Um modelo de linguagem grande (LLM), o tipo de IA por trás do ChatGPT, aprende o que sabe com o texto com que foi treinado. Documentos que nunca saíram da sua empresa não faziam parte desse texto, então o modelo precisa recebê-los de outra forma.

Com RAG, os seus documentos ficam fora do modelo, em um índice de busca, um catálogo de trechos montado a partir dos seus arquivos. Quando alguém faz uma pergunta, o sistema encontra os trechos correspondentes e os acrescenta ao prompt, o texto que o modelo recebe. Como o sistema sabe quais trechos usou, ele pode mostrar o documento de origem ao lado de cada resposta.

O fine-tuning continua o treinamento do modelo com exemplos, cada um combinando uma pergunta ou tarefa com a resposta que você quer. O resultado é uma nova versão do modelo. O que ele aprendeu fica espalhado pelos números internos do modelo, e nenhum arquivo mostra de onde veio um determinado fato.

O guia da OpenAI “Optimizing LLM Accuracy”, consultado em 23 de outubro de 2026, explica a diferença com uma prova. RAG é como ter “o livro didático com você” para consultar. Fine-tuning é como assistir às aulas durante meses e aprender com “muitos exemplos repetidos”.

O guia acrescenta que os dois métodos “se somam, não se excluem”. Ele também diz que “muitas das nossas maiores implantações para clientes na OpenAI foram feitas usando apenas engenharia de prompt e RAG”. Engenharia de prompt significa escrever instruções e exemplos melhores para o modelo.

Podemos fazer fine-tuning de um modelo com os nossos documentos para que ele conheça o nosso negócio?

Pesquisas publicadas dizem que treinar um modelo com os seus documentos não ensina a ele, de forma confiável, os fatos do seu negócio. Em um estudo publicado pela primeira vez em dezembro de 2023, Oded Ovadia e três coautores compararam o RAG com o fine-tuning de um modelo sobre o texto puro de documentos. O resumo deles diz que “o RAG o supera de forma consistente” e que os modelos “têm dificuldade para aprender novas informações factuais” dessa forma. Ele acrescenta que mostrar ao modelo “inúmeras variações do mesmo fato” durante o treinamento pode ajudar.

Um artigo científico de 2024 de Zorik Gekhman e seis coautores testou o fine-tuning com perguntas pareadas com respostas. Exemplos que contêm fatos novos “são aprendidos de forma significativamente mais lenta” do que exemplos que batem com o que o modelo já sabe. Quando o modelo de fato os aprendia, ficava mais propenso a dar respostas factualmente erradas. Os autores escrevem que os resultados apoiam a visão de que os modelos “adquirem conhecimento factual principalmente por meio do pré-treinamento”, ou seja, o treinamento original feito pelo criador do modelo, e que o fine-tuning “os ensina a usá-lo de forma mais eficiente”.

Para uma empresa, fatos que mudam, como preços ou a redação de políticas, devem ficar em documentos que o sistema pesquisa. Um modelo com fine-tuning guarda o que aprendeu no dia em que foi treinado, e mudar isso exige outra rodada de treinamento.

Quando o fine-tuning vale a pena?

O guia da OpenAI diz para trabalhar no comportamento do modelo, e não na informação que ele recebe, quando ele está “produzindo resultados inconsistentes, com formatação incorreta” ou quando o tom ou o estilo de fala dele “não está correto”. Primeiro vêm instruções e exemplos melhores no prompt, e o fine-tuning é o passo seguinte. O guia também cita a eficiência como motivo para fazer fine-tuning, ou seja, a mesma acurácia com um modelo menor ou com menos tokens. Um token é um pedaço de palavra, e os provedores de modelos cobram por token.

Por exemplo, um modelo que lê faturas precisa devolver os dados delas exatamente no layout que o seu sistema contábil aceita. Respostas redigidas para clientes podem precisar soar como o seu time de suporte. Um modelo menor com fine-tuning também pode custar menos para rodar do que um modelo geral grande, se atingir a acurácia de que você precisa.

Os exemplos de treinamento precisam ser exatamente como o trabalho real. O guia recomenda começar com “50+ exemplos”, depois testar e só acrescentar mais se os erros que sobrarem forem sobre o comportamento do modelo. Alguém que faz esse trabalho todos os dias precisa escrever ou conferir esses exemplos, então inclua as horas dessa pessoa no orçamento, junto com o tempo de engenharia.

O nosso conjunto de documentos é pequeno. Precisamos mesmo de RAG?

Com um conjunto pequeno de documentos, talvez você nem precise de RAG. A Anthropic, a empresa por trás dos modelos Claude, escreveu em uma publicação de 19 de setembro de 2024: “Se a sua base de conhecimento tem menos de 200.000 tokens (cerca de 500 páginas de material), você pode simplesmente incluir a base de conhecimento inteira no prompt que dá ao modelo, sem precisar de RAG ou de métodos semelhantes.”

Cada modelo tem um limite de quantos tokens consegue ler de uma vez. O prompt caching (cache de prompt) permite que uma aplicação reutilize texto que já enviou em requisições anteriores, como o mesmo conjunto de documentos. A publicação, consultada no mesmo dia que o guia, diz que o prompt caching reduz os custos “em até 90%” com o Claude. O guia da OpenAI alerta que os modelos “podem ter dificuldade para manter a atenção em prompts muito grandes”, então teste no tamanho que você pretende usar.

Mandar todos os documentos com cada pergunta ainda custa mais do que mandar alguns trechos, e o custo cresce a cada página que você acrescenta. Um piloto pode começar com um conjunto pequeno, como os manuais de uma linha de produtos, e passar para RAG quando os documentos não couberem mais no prompt.

O que pode dar errado com RAG?

Um sistema de RAG pode falhar antes de o modelo escrever uma palavra, quando a busca traz os trechos errados ou trechos demais. O guia da OpenAI descreve os dois casos. O sistema pode fornecer “o contexto errado, de modo que o modelo não tem como responder”. O outro risco é o excesso de texto irrelevante, porque ele “abafa a informação real e causa alucinações”, ou seja, respostas que parecem certas, mas são falsas.

Muitos sistemas de RAG buscam pelo significado, e não pelas palavras exatas, e isso pode deixar escapar códigos exatos. A publicação da Anthropic dá o exemplo de uma pergunta de suporte sobre o código de erro TS-999. Uma busca desse tipo pode encontrar páginas sobre códigos de erro em geral e deixar passar a do TS-999. A publicação sugere combiná-la com a busca por palavras-chave, que procura o texto exato.

Por isso, teste a busca separadamente. Para cada pergunta de teste, confira se o trecho certo voltou antes de avaliar a resposta. Se não voltou, o guia da OpenAI aponta a busca como o que precisa ser corrigido.

O que mantém os nossos dados sob controle, RAG ou fine-tuning?

Os dois podem rodar nos seus próprios servidores. Com RAG, os seus documentos ficam em um índice que você controla, e o modelo vê apenas os trechos escolhidos para cada pergunta. O fine-tuning incorpora os exemplos de treinamento aos arquivos do modelo, e o que o modelo aprendeu com eles pode reaparecer nas respostas.

O RAG facilita fazer valer os direitos de acesso, porque a busca pode deixar de fora os documentos que a pessoa que pergunta não tem permissão para ver. A Microsoft descreve uma forma de fazer isso no serviço Azure AI Search. A página dela sobre o padrão de filtro de segurança, consultada no mesmo dia, descreve um filtro que “recorta os resultados da busca com base em uma string que contém uma identidade de grupo ou de usuário”. A página oferece esse filtro para sistemas que não podem usar as listas de controle de acesso nativas do serviço.

A mesma página diz que não há “nenhuma autenticação ou autorização” no próprio filtro, então a sua aplicação precisa passar o usuário ou grupo certo em cada busca. Um modelo com fine-tuning não tem nada equivalente. O que ele aprendeu com os exemplos de um departamento pode aparecer nas respostas a qualquer usuário desse modelo.

O Comitê Europeu de Proteção de Dados (EDPB), formado por representantes das autoridades nacionais de proteção de dados e da Autoridade Europeia para a Proteção de Dados, adotou o Parecer 28/2024 em 17 de dezembro de 2024. Ele diz que “modelos de IA treinados com dados pessoais não podem ser considerados anônimos em todos os casos”, porque os dados pessoais “podem continuar ‘absorvidos’ nos parâmetros do modelo”. Parâmetros são os números internos em que um modelo guarda o que aprendeu. Se um determinado modelo é anônimo, acrescenta o parecer, é algo que precisa ser avaliado caso a caso.

Se você fizer fine-tuning com tickets de suporte ou arquivos de clientes, parta do princípio de que o próprio modelo pode conter dados pessoais. Pergunte como seria atendido um pedido para apagar os registros de uma pessoa. Com RAG, depois que um documento é removido e o índice é atualizado, ele não é mais encontrado para novas perguntas. Cópias guardadas em logs, caches ou históricos de chat salvos precisam de uma limpeza própria. As regras variam por país, e este artigo não é aconselhamento jurídico, então confira o seu caso com um advogado.

Por quanto tempo um modelo com fine-tuning vai continuar funcionando?

Um modelo com fine-tuning é construído sobre um modelo base, o modelo geral do qual você partiu. Se você faz o fine-tuning por um serviço de nuvem, é o provedor que decide por quanto tempo esse modelo base, e a sua versão dele, continuam disponíveis. A página de preços da API da OpenAI, consultada no mesmo dia, diz: “A OpenAI está encerrando gradualmente a plataforma de fine-tuning.” Ela acrescenta que os modelos com fine-tuning continuam disponíveis até que os modelos base deles sejam descontinuados (deprecated), o termo da OpenAI para os modelos que ela está aposentando.

A página de descontinuações (deprecations) da OpenAI traz as datas. A partir de 7 de maio de 2026, organizações que nunca tinham feito fine-tuning não podiam mais começar. A partir de 2 de julho de 2026, o mesmo passou a valer para organizações que não tinham usado um modelo com fine-tuning nos 60 dias anteriores. Em 6 de janeiro de 2027, “clientes ativos já existentes não poderão mais criar novos jobs de fine-tuning.”

A mesma página também define datas de fim para os próprios modelos. Ela indica 23 de outubro de 2026 como a data de desligamento das versões com fine-tuning do gpt-4.1-nano e de outros cinco modelos. GPT-4o, GPT-4o mini, GPT-4.1 e GPT-4.1 mini vêm em seguida, em 14 de janeiro de 2027, e “as versões com fine-tuning desses modelos seguem o mesmo cronograma de desligamento dos modelos base em que se baseiam.”

Modelos de pesos abertos, cujos criadores publicam os arquivos do modelo para qualquer pessoa rodar sob uma licença, ainda podem passar por fine-tuning no seu próprio hardware. O gpt-oss-120b da OpenAI é um deles, e a página dele no Hugging Face, o site de modelos, consultada no mesmo dia, informa a licença Apache 2.0. A página diz que o modelo “pode passar por fine-tuning em um único nó H100”, ou seja, um servidor com GPUs Nvidia H100, um tipo de chip que a página cita para rodar o modelo.

Esteja o modelo rodando na nuvem de um provedor ou no seu próprio hardware, um novo modelo base significa outra rodada de fine-tuning e de testes. Um sistema de RAG também precisa ser testado de novo quando o modelo que escreve as respostas muda, mas o índice e os seus documentos continuam como estão.

Quanto custa construir e operar RAG e fine-tuning?

Aqui não há números, porque eles dependem dos seus volumes e da sua configuração. Mas os itens da conta são diferentes.

No RAG, o trabalho de construção é preparar os documentos para que possam ser bem pesquisados, construir o índice e testar a busca. Os custos de operação incluem o serviço de busca e prompts mais longos, já que cada pergunta leva os trechos encontrados para ela. A reindexação pode rodar automaticamente quando um arquivo é adicionado ou alterado.

No fine-tuning, boa parte do custo pode ser tempo da equipe, porque as pessoas que conhecem a tarefa escrevem e conferem os exemplos de treinamento. Depois vêm as rodadas de treinamento e os servidores ou o serviço que hospedam o novo modelo. Um novo modelo base ou uma nova tarefa significa pagar por esse trabalho de novo.

Alguns sistemas precisam dos dois. Se os primeiros testes mostrarem problemas com fatos e também com formato, o guia da OpenAI diz que “é provável que você acabe com fine-tuning + RAG”. Nesse caso, você paga pelos dois.

Devemos escolher RAG ou fine-tuning, e o que perguntar a uma empresa que se oferece para construir o sistema?

Comece com um conjunto de teste feito de perguntas ou documentos reais do seu trabalho, cada um com uma resposta conferida por uma pessoa. O guia da OpenAI diz que um conjunto de “20+ perguntas e respostas”, depois que você analisou por que as falhas acontecem, dá “a linha de base certa” para métodos mais avançados. O artigo sobre um piloto de IA travado explica como montar um.

Depois, teste um prompt bem escrito com RAG e agrupe as falhas por causa. Um trecho que faltou significa que a busca precisa de ajustes. Às vezes o trecho certo voltou e, mesmo assim, o modelo o interpretou mal ou respondeu no formato errado. Para esse caso, o guia sugere primeiro instruções melhores, e fine-tuning se alguns exemplos resolvidos no prompt melhorarem as respostas.

Faça as mesmas perguntas a todas as empresas que propuserem um projeto:

• Quais resultados no nosso conjunto de teste levaram vocês a propor fine-tuning?
• Como o sistema vai impedir que a equipe veja documentos que não tem permissão para abrir?
• Se vocês fizerem fine-tuning, quem escreve os exemplos de treinamento e o que acontece quando o modelo base for aposentado?
• Depois do lançamento, como removemos um documento ou os dados de uma pessoa?

Onde a amBrain se encaixa?

O único projeto com modelo de linguagem que a amBrain descreve publicamente é este: “Levamos à produção uma integração de LLM dentro do perímetro de FinTech de um cliente: extração e normalização de avisos não estruturados de corretoras e de venues — eventos corporativos, alterações de instrumentos e de margem — em registros estruturados que o sistema de trading consome.”

Este artigo não é um estudo de caso e não descreve nenhum trabalho para clientes. A frase citada não diz se esse sistema usa RAG, fine-tuning ou nenhum dos dois, qual modelo ele usa nem onde esse modelo roda. Os exemplos deste artigo são gerais e não foram tirados desse projeto nem de nenhum outro trabalho da amBrain.

As empresas, os órgãos públicos, os modelos e os artigos científicos citados aqui são citados com base nas páginas que publicaram, e o artigo não afirma nenhuma relação entre a amBrain e qualquer um deles. Ele não traz preços, prazos nem condições da amBrain.

A amBrain constrói software desde 2019. Ela trabalha em três formatos: entrega completa, time dedicado ou engenheiros embarcados no seu time. A frase dela sobre propriedade é: “O cliente mantém a propriedade integral do produto e do código, exceto dos nossos componentes reutilizáveis.” Se a amBrain estiver na sua lista curta, faça a ela as mesmas perguntas que a qualquer outra empresa.