IA nos seus próprios servidores: como adicionar um LLM aos seus sistemas internos e quem a constrói

Sim, uma empresa pode usar IA nos seus tickets de suporte, documentos e ferramentas internas sem que esses dados saiam dos seus próprios servidores. Um modelo de linguagem grande, ou LLM, é o tipo de IA por trás dos assistentes de chat. Alguns desses modelos podem ser baixados e rodados em servidores que a empresa controla, no seu próprio prédio ou na sua própria conta de nuvem, e conectados aos sistemas que os funcionários já usam.

O modelo é a parte menor do trabalho. O que decide se o sistema chega ao uso diário é a escolha da tarefa, uma descrição por escrito de uma resposta correta e uma pessoa definida que confere as respostas e opera o sistema depois do lançamento. A última parte deste artigo mostra como avaliar uma empresa que se oferece para construí-lo.

O que “IA nos nossos próprios servidores” significa na prática?

“IA nos nossos próprios servidores” significa que o modelo roda em hardware que a sua empresa controla e que nenhum texto é enviado a uma empresa de IA externa. O seu ticket, documento ou pergunta vai do seu sistema ao modelo e volta, e nunca sai da sua rede nem da sua conta de nuvem.

Isso é possível graças aos modelos de pesos abertos. Um modelo de pesos abertos é aquele cujo desenvolvedor publica os arquivos do modelo, para que qualquer pessoa possa baixá-los e rodar o modelo nos termos da licença dele. Os serviços de IA que você usa no navegador funcionam de outro jeito: o seu texto viaja para os servidores do provedor e é processado lá.

Manter os dados dentro vai além do modelo. O sistema também guarda logs, um índice de busca dos seus documentos, os exemplos com que é testado e as telas em que as pessoas conferem as respostas dele. Cada um desses itens guarda cópias dos seus dados, e cada um também precisa ficar nos seus servidores.

Quais tarefas dos nossos sistemas internos um LLM pode assumir?

Um LLM é útil onde hoje as pessoas leem um texto e depois preenchem, classificam ou escrevem alguma coisa. Tarefas típicas dentro de uma empresa:

• Leitura de documentos recebidos. Formulários, faturas, contratos e avisos viram campos no sistema que precisa deles
• Classificação de tickets de suporte. O assunto, a urgência e o time certo são definidos antes que uma pessoa abra o ticket
• Rascunho de respostas. O modelo escreve um rascunho, e um atendente de suporte o edita e envia
• Responder a perguntas dos funcionários com base em documentos internos. Políticas, manuais e tickets antigos, com um link para a fonte de cada resposta. É o que muitas vezes se chama de “um ChatGPT privado”
• Resumo de materiais longos. Threads de e-mail, anotações de chamadas e dossiês de casos, para a próxima pessoa que assumir o assunto
• Conferência de documentos contra uma lista. Se um contrato tem as cláusulas obrigatórias ou se um pedido tem todos os documentos necessários

Alguns trabalhos não combinam com um LLM, e é melhor saber disso antes de o projeto começar:

• Cálculos e regras que já são exatos. Um código comum faz isso mais rápido e dá sempre a mesma resposta
• Tarefas em que ninguém sabe dizer como é uma resposta correta. Sem isso, ninguém consegue saber se o modelo funciona
• Decisões finais sobre pessoas com peso jurídico ou financeiro, como recusar um cliente, sem que uma pessoa tome a decisão
• Ações que não podem ser desfeitas e que ninguém confere, como enviar dinheiro

Um teste simples para qualquer tarefa: ela combina com um LLM quando hoje uma pessoa a faz lendo texto, o resultado correto pode ser escrito e um resultado errado pode ser pego antes de causar dano.

Nossos dados não podem sair dos nossos servidores. Ainda assim podemos usar IA?

Sim. A escolha é onde o modelo roda, e só duas das três opções mais comuns mantêm os dados em servidores que você controla:

• Um modelo de pesos abertos nos seus próprios servidores. O modelo roda em hardware no seu próprio prédio ou data center. Você ganha: nenhum texto sai da sua rede, e nenhuma empresa de IA externa o recebe. O que você cede: você compra servidores com processadores gráficos (GPUs), de que os modelos precisam para rodar em uma velocidade útil, e o seu time ou um parceiro os mantém funcionando. Escolha esta opção quando: regras, contratos com clientes ou a sua própria política proíbem qualquer processamento fora da empresa
• Um modelo de pesos abertos na sua própria conta de nuvem. O mesmo tipo de modelo roda em servidores que você aluga de um provedor de nuvem, dentro da sua conta e na região que você escolher. Você ganha: nenhum hardware para comprar, capacidade que pode ser ampliada depois e dados que ficam na sua conta. O que você cede: o provedor de nuvem cuida dos prédios e do hardware, e o modelo continua sendo operado por você. Escolha esta opção quando: a sua empresa já roda os seus sistemas nessa nuvem e as suas regras aceitam isso
• O serviço de um provedor de modelos. Você envia texto para um modelo operado por uma empresa de IA, diretamente ou pelo seu provedor de nuvem, sob contrato. Você ganha: o início mais rápido, os modelos do próprio provedor e nenhum servidor para operar. O que você cede: os dados saem, sim, dos seus servidores, sob os termos do provedor para armazenamento, localização e revisão. Escolha esta opção quando: os dados podem sair sob contrato, como documentos que já são públicos. Se os seus dados realmente não podem sair, esta opção está fora de questão

Uma empresa pode usar mais de uma opção. Documentos públicos podem ir para o serviço de um provedor enquanto os registros de clientes ficam em um modelo que você opera. Nesse caso, a regra que manda cada tipo de dado para o seu lugar precisa ser escrita e cumprida. Um artigo anterior deste blog, sobre rodar um LLM em um perímetro fechado, compara essas opções com mais detalhe.

Se um modelo que você mesmo pode rodar é bom o bastante, isso se mede nos seus próprios documentos e tickets, e não se tira de um ranking público. Muitas tarefas internas são estreitas, como ler um tipo de formulário ou classificar tickets em uma lista conhecida de times, e um teste com exemplos reais do seu trabalho responde à pergunta.

Modelos de pesos abertos vêm com licenças diferentes, então alguém deve ler a licença do modelo que você escolher. Os modelos Qwen3 que a Alibaba lançou em 2025 e os modelos gpt-oss da OpenAI são publicados sob a licença Apache 2.0, enquanto o maior modelo aberto do lançamento posterior Qwen3.8 vem com a sua própria licença Qwen3.8-Max. O Llama 3.3 da Meta vem com a licença comunitária própria da Meta, que acrescenta condições, entre elas seguir a política de uso aceitável da Meta.

Como adiciono um LLM aos sistemas internos da minha empresa?

Um LLM não substitui os seus sistemas. Ele fica entre eles: lê texto em um lugar e coloca um resultado em outro. Adicioná-lo a um sistema interno significa responder a quatro perguntas simples:

• De onde vem o texto? Do helpdesk, de uma caixa de e-mail compartilhada, de um repositório de documentos ou de um banco de dados
• Para onde vai o resultado? Para os campos e telas que os funcionários já usam, como uma sugestão que eles podem aceitar ou alterar, e não para uma ferramenta nova que precisam lembrar de abrir
• Em que ele pode mexer? Só nos dados e nas ações de que a tarefa precisa. Um modelo que classifica tickets não precisa de acesso a reembolsos nem a contas de clientes
• Como desligar? Um único interruptor que devolve o trabalho ao modo manual, nas mãos da pessoa responsável pelo sistema

Comece com uma tarefa em um sistema. No início, o modelo sugere e uma pessoa decide. O modelo só pode agir sozinho nas partes em que continua acertando no trabalho real, e o modo manual segue como alternativa de reserva.

As pessoas que fazem o trabalho hoje devem dar forma ao sistema. Elas sabem quais documentos são difíceis, quais respostas estão erradas e onde um erro custa dinheiro. São também elas que vão conferir as respostas nos primeiros meses, então o tempo delas precisa estar no plano.

O que a empresa precisa decidir antes de contratar alguém?

Antes que alguém construa um sistema de IA para você, responda por escrito a sete perguntas. Nenhuma delas exige formação em engenharia, e cada resposta muda o que precisa ser construído:

• Qual tarefa, em qual sistema? Descreva uma tarefa em uma frase, como “classificar os tickets que chegam ao helpdesk por time e urgência”
• Como é um resultado correto? Reúna exemplos reais com a resposta certa, escrita pelas pessoas que fazem o trabalho hoje
• Quais dados o modelo vai ver e para onde esses dados podem ir? Peça ao seu responsável jurídico, de riscos ou de proteção de dados que escreva isso para cada tipo de dado
• Quanto trabalho e quando? O número de documentos ou tickets por dia e o horário de pico
• Quem confere as respostas? No início, uma pessoa confere cada resposta. Diga quem e quantas horas por semana isso leva
• O que acontece quando a IA está indisponível? O trabalho volta para as pessoas e espera, em vez de se perder
• Quem opera depois do lançamento, e o que será seu? O seu próprio time ou quem construiu, sob um contrato de suporte; e, no fim, o código, os exemplos e a documentação

As respostas por escrito a essas sete perguntas são o seu briefing. Entregues a três empresas que se oferecem para construir, elas geram três propostas que você pode comparar. Sem elas, você recebe três demonstrações de uma janela de chat.

Nosso piloto de IA funciona em uma demo, mas nunca chegou à produção. Quem pode nos ajudar a concluí-lo?

Uma demo responde a uma única pergunta: o modelo consegue fazer a tarefa com bons exemplos? O uso diário acrescenta mais quatro, e um piloto que trava geralmente pulou essas quatro:

• O que conta como certo? Um conjunto de exemplos reais com respostas combinadas e uma nota mínima que o sistema precisa atingir
• Esses dados podem ir para lá? Um piloto construído sobre um serviço de IA externo não passa simplesmente para dados que precisam ficar nos seus servidores; um modelo que você mesmo opera precisa ser testado de novo
• Para onde vão as respostas erradas? Para um lugar em que uma pessoa as vê e corrige antes que outro sistema as use
• Quem é o responsável? Uma pessoa ou um time definido que opera o sistema, acompanha as respostas dele e é acionado quando ele para

Concluir um piloto travado geralmente significa construir essas quatro coisas em volta do modelo, e não comprar um modelo melhor. Um artigo anterior deste blog, sobre o piloto de IA que nunca chegou à produção, explica cada uma delas com mais profundidade.

Quem assumir um piloto travado precisa de três coisas suas: os exemplos do piloto, os documentos em que ele falhou e o nome da pessoa que será a responsável pelo sistema. Quem não pede nenhuma delas está planejando uma nova demo.

Quanto custa rodar um LLM nos seus próprios servidores?

Este artigo não traz preços. “Um sistema de IA nos nossos próprios servidores” abrange projetos que variam muitas vezes de tamanho, e um número passado antes que alguém tenha ouvido as suas respostas às sete perguntas acima é um número de vendas, não uma estimativa.

O útil é conhecer os tipos de custo, porque a maioria depende de decisões que você controla:

• Hardware ou capacidade na nuvem. Servidores com GPUs, comprados ou alugados, dimensionados para o seu horário de pico, e não para a média
• Conexões com os seus sistemas. Cada sistema do qual o modelo lê ou no qual escreve é um trabalho à parte, com as suas próprias permissões e registros
• O tempo do seu pessoal. Os funcionários que reúnem os exemplos, escrevem as respostas certas e conferem as respostas do modelo nos primeiros meses
• Correção de respostas erradas. Horas de alguém toda semana, enquanto o sistema estiver funcionando
• Operação. Atualizações de segurança, acompanhamento das respostas e não só dos servidores, e alguém que é acionado quando o sistema para
• Troca de modelo. Um modelo mais novo é testado com os seus exemplos antes de substituir o antigo, e o teste se repete a cada troca

O custo segue um padrão diferente do serviço de um provedor. Um provedor cobra pela quantidade de texto que o modelo lê e escreve. Servidores que você possui, ou aluga por mês, custam mais ou menos o mesmo estejam ocupados ou ociosos, então o volume de trabalho decide qual opção sai mais barata para você.

O escopo é a parte do custo que você controla mais diretamente. Uma tarefa, em um sistema, para um time é a menor primeira versão que ainda mostra se vale a pena ampliar o sistema.

Quem constrói sistemas de IA que rodam dentro da própria infraestrutura de uma empresa, e como avaliá-los?

Quatro tipos de fornecedor respondem quando uma empresa diz “queremos IA nos nossos próprios servidores”:

• Fornecedores de software. Vendem um produto de IA pronto para instalar, como um assistente de chat para os funcionários. Servem bem para um assistente genérico, e menos bem quando a tarefa depende dos seus próprios sistemas e regras
• Provedores de nuvem e seus parceiros. Vendem modelos como serviço gerenciado, em que o seu texto sai da sua conta, e oferecem ferramentas para rodar modelos de pesos abertos dentro da sua própria conta de nuvem. Alguns oferecem ajuda para conectá-los
• Empresas de engenharia. Constroem a conexão entre um modelo e os seus sistemas conforme a sua especificação, e o contrato define quanto disso passa a ser seu
• O seu próprio time. Às vezes com engenheiros externos que entram para a primeira versão

Antes de mais nada, peça a qualquer fornecedor estas provas:

• Um sistema de IA que eles tenham levado à produção dentro da infraestrutura de um cliente, com o cliente nomeado quando ele permitir
• O que esse sistema faz, em uma frase, e quem o opera hoje
• O que acontece nesse sistema quando o modelo dá uma resposta errada
• Uma demonstração com documentos ou tickets reais, não com exemplos preparados
• Para onde foram os dados durante o trabalho deles: se alguma coisa, incluindo logs e cópias de teste, saiu dos servidores do cliente
• O que eles vão entregar: o código, os exemplos, as configurações e a documentação, e se alguma coisa continua sendo deles

Depois, preste atenção no que o fornecedor pergunta a você. Uma empresa que já construiu isso pergunta antes de passar um orçamento:

• Qual tarefa, em qual sistema, e quem a faz hoje
• Quais dados o modelo vai ver e o que as suas regras permitem para eles
• Se você tem exemplos reais com as respostas certas e quem pode escrever mais
• Quem vai conferir as respostas e quem será o responsável pelo sistema um ano depois do lançamento

A amBrain já levou um modelo de linguagem à produção?

Dos tipos de fornecedor descritos acima, a amBrain é uma empresa de engenharia.

O que a amBrain pode dizer publicamente sobre o próprio trabalho com modelos de linguagem, na íntegra: levamos à produção uma integração de LLM dentro do perímetro de FinTech de um cliente: extração e normalização de avisos não estruturados de corretoras e de venues — eventos corporativos, alterações de instrumentos e de margem — em registros estruturados que o sistema de trading consome.

O cliente não é nomeado, não é divulgado onde o modelo rodou nesse projeto e nenhum número sobre esse projeto é informado. Este artigo não é um estudo de caso dele. Ele explica como planejar e escolher, e não afirma que a amBrain tenha construído um sistema de tickets de suporte, um assistente para funcionários ou qualquer sistema interno de IA além da extração de avisos citada acima.

Além dessa integração: a amBrain constrói software desde 2019. Trabalhamos em três formatos: entrega completa, time dedicado ou engenheiros embarcados no seu time. O cliente mantém a propriedade integral do produto e do código, exceto dos nossos componentes reutilizáveis.

Se você está no começo, o próximo passo útil não é procurar fornecedor. É uma página com respostas por escrito às sete perguntas deste artigo. Entregue a mesma página a cada empresa com quem você conversar sobre a construção, nós ou qualquer outra, e as propostas poderão ser comparadas linha por linha.