GenAI

Injeção de prompt e vazamento de dados em assistentes de IA: as proteções do seu provedor, um produto de guardrails ou controles próprios

O que é injeção de prompt, como instruções escondidas em uma página web, e-mail ou documento podem fazer um assistente de IA vazar dados e por que nenhum filtro pega todos os ataques. O artigo compara as proteções de Microsoft, Amazon e Google, os produtos de guardrails separados e os frameworks de código aberto, e os controles que você constrói na sua própria aplicação, e traz preços publicados, testes para rodar antes do lançamento e perguntas a fazer.

Por amBrain11 min de leitura

Neste artigo

A injeção de prompt é um ataque em que um assistente de IA segue instruções que um atacante colocou no texto que ele lê. O texto pode vir do usuário ou de uma página web, e-mail, ticket ou documento que o assistente processa. Se o assistente também puder acessar dados privados e enviar qualquer coisa para fora, uma injeção bem-sucedida pode virar um vazamento de dados. Há três linhas de defesa: as proteções que o seu provedor de modelo ou de nuvem oferece, um produto de guardrails separado ou um framework de código aberto, e controles embutidos na sua própria aplicação. As duas primeiras fazem os ataques darem certo com menos frequência. Só a terceira impõe limites rígidos ao dano, por isso você precisa de mais de uma.

A resposta curta: ative primeiro as verificações de injeção do seu provedor e confirme quais entradas elas leem, já que documentos e resultados de ferramentas muitas vezes ficam de fora. Acrescente um produto ou framework de guardrails separado quando rodar vários modelos ou nuvens, ou precisar de uma única política e um único log. Em todos os casos, construa os seus próprios controles dentro da aplicação. Dê ao assistente o mínimo de acesso, deixe os dados saírem apenas para lugares listados e faça uma pessoa aprovar envios, pagamentos e exclusões.

O que é injeção de prompt, e como a indireta chega a um assistente?

O Open Worldwide Application Security Project (OWASP) é uma fundação de segurança sem fins lucrativos. Ele coloca a injeção de prompt em primeiro lugar no seu Top 10 de 2025 dos riscos para aplicações construídas com grandes modelos de linguagem (LLMs). Na injeção direta, o usuário digita as instruções, por exemplo mandando um bot de suporte ignorar as suas regras. Na indireta, elas chegam dentro de conteúdo: “As injeções de prompt indiretas ocorrem quando um LLM aceita entradas de fontes externas, como sites ou arquivos.”

O atacante não precisa de acesso aos seus sistemas. O Security Response Center da Microsoft dá dois exemplos: um e-mail enviado à vítima e um documento compartilhado. As instruções neles “podem estar ocultas do usuário, por exemplo com texto branco sobre fundo branco ou caracteres Unicode não imprimíveis”.

Por que uma injeção bem-sucedida vira um vazamento de dados?

Um vazamento exige três condições ao mesmo tempo. O “Agents Rule of Two” da Meta, inspirado em parte no “lethal trifecta” (trio letal) de Simon Willison, as nomeia:

  • O assistente processa entrada não confiável, como e-mails recebidos ou páginas web.
  • Ele pode alcançar sistemas sensíveis ou dados privados.
  • Ele pode alterar registros ou enviar dados para fora.

A Meta diz que um assistente não deve ter mais de duas dessas condições em uma mesma sessão. Quando uma tarefa exige as três na mesma sessão, o assistente “não deve ter permissão para operar de forma autônoma e, no mínimo, exige supervisão”.

Os dados podem sair sem uma ferramenta de e-mail. A Microsoft descreve um modelo que escreve um link de imagem cujo endereço web carrega dados roubados. O navegador do usuário carrega a imagem e envia os dados ao invasor “sem nenhuma interação do usuário”. Um link clicável vaza os mesmos dados depois de clicado, e uma ferramenta que escreve em algum lugar público pode vazá-los diretamente.

O National Vulnerability Database dos EUA registra uma falha de injeção no Microsoft 365 Copilot que “permite que um atacante não autorizado divulgue informações por uma rede”. A Microsoft classificou a gravidade em 9,3 de 10. Regras nas instruções do modelo, o prompt de sistema, não impedem esses vazamentos de forma confiável. O item da OWASP sobre divulgação de informações sensíveis diz que elas “nem sempre podem ser respeitadas e podem ser contornadas por injeção de prompt ou por outros métodos.”

Por que nenhum filtro pega toda injeção?

O National Cyber Security Centre (NCSC) do Reino Unido explica o motivo: “Os grandes modelos de linguagem (LLMs) atuais simplesmente não impõem uma fronteira de segurança entre instruções e dados dentro de um prompt.” A injeção de SQL, um ataque mais antigo a bancos de dados, é barrada nunca tratando a entrada como comando. Um modelo de linguagem não consegue fazer isso, então o NCSC conclui que a injeção de prompt “continuará sendo um risco residual e não pode ser totalmente mitigada com um produto ou appliance”.

Os provedores de modelos concordam. A Meta chama a injeção de prompt de “uma fraqueza fundamental e não resolvida em todos os LLMs.” A Anthropic testou a sua extensão para o navegador Chrome contra um atacante adaptativo interno, com 100 tentativas por ambiente de teste. O atacante ainda teve sucesso em cerca de 1% dos ataques ao Claude Opus 4.5 com as proteções aprimoradas da Anthropic. A Anthropic diz que esse nível “ainda representa um risco significativo”.

Os modelos de detecção, ou classificadores, aprendem com ataques já vistos. A Meta diz que o classificador Prompt Guard 2 tem como alvo “padrões de ataque explícitos e conhecidos” e lista a “vulnerabilidade a ataques adaptativos” entre os seus limites. O NCSC aconselha os compradores: “Desconfie de quem diz que consegue ‘impedir’ a injeção de prompt e, em vez disso, observe quem entende como reduzi-la.”

O que as proteções do seu provedor de modelo ou de nuvem cobrem?

Microsoft, Amazon e Google vendem verificações de injeção que rodam ao lado do modelo.

O Prompt Shields da Microsoft, parte do Azure AI Content Safety, detecta “ataques por prompt do usuário” e “ataques por documento”. A Microsoft define o segundo como “instruções ocultas embutidas no conteúdo de documentos (documentos, e-mails, páginas web)”. Na plataforma Foundry da Microsoft para modelos e agentes, “a detecção de ataques por documento vem desativada por padrão”. Quando você chama o serviço pela sua interface de programação de aplicações (API), “a API não bloqueia nem encaminha o conteúdo por conta própria”, então o seu código age sobre o resultado. Os modelos de detecção são “treinados e avaliados principalmente em conteúdo em inglês”. A tabela de preços da Microsoft agora chama o serviço de Content Safety in Foundry Control Plane. Ela mostra um nível gratuito de 5.000 registros de texto por mês. O nível padrão custa US$ 0,375 por 1.000 registros de texto, cada um com até 1.000 caracteres, na maioria das regiões.

O Amazon Bedrock Guardrails define a injeção que o seu filtro de ataques por prompt detecta como “prompts de usuário criados para ignorar e anular as instruções especificadas pelo desenvolvedor.” Nas chamadas InvokeModel do Bedrock, a entrada do usuário precisa ser marcada com tags: “Se não houver tags, os ataques por prompt desses casos de uso não serão filtrados.” A Amazon acrescenta: “O filtro de ataques por prompt não avalia resultados de ferramentas.” Os filtros de conteúdo, que incluem a verificação de ataques por prompt, custam US$ 0,15 por 1.000 unidades de texto de até 1.000 caracteres. A verificação de ataques por prompt isolada custa US$ 0,08 por uma operação separada. O filtro que bloqueia ou mascara dados pessoais custa US$ 0,10.

O Model Armor, do Google Cloud, examina prompts, respostas e documentos enviados em busca de injeção, dados sensíveis e links maliciosos, para IA implantada “no Google Cloud ou em outros provedores de nuvem”. Ele “inspeciona cada prompt e cada resposta de forma independente, como uma solicitação de turno único”, sem olhar as mensagens anteriores. Também “não decodifica nem inspeciona conteúdo codificado, como prompts codificados em Base64”, uma forma comum de escrever dados com letras, dígitos e alguns símbolos. O Model Armor é gratuito até 2 milhões de tokens por mês, depois custa US$ 0,10 por 1 milhão de tokens adicionais, à razão de cerca de quatro caracteres por token.

Os provedores também treinam os seus modelos para resistir à injeção. O Google diz que o treinamento adversarial “aprimorou significativamente as nossas defesas contra ataques de injeção de prompt indireta nos modelos Gemini 2.5”. A biblioteca de código aberto OpenAI Guardrails, ainda em versão preliminar, tem uma verificação de injeção que procura “chamadas de ferramentas e saídas de ferramentas desalinhadas”.

O que um produto de guardrails separado ou um framework de código aberto acrescenta?

Uma camada de guardrails separada pode ficar entre a sua aplicação e todos os modelos que ela chama, de modo que um único conjunto de regras e um único log cubram todos eles.

O NeMo Guardrails, da NVIDIA, é de código aberto sob a licença Apache 2.0. Ele executa verificações, que chama de rails, sobre a entrada do usuário, trechos de documentos recuperados, chamadas de ferramentas e a saída. Um rail de recuperação “pode rejeitar um trecho, impedindo que ele seja usado para acionar o LLM”. O Llama Prompt Guard 2, da Meta, é um classificador pequeno que você roda nos seus próprios servidores. Ele lê 512 tokens por vez, então documentos longos precisam ser divididos. Os dois são gratuitos para baixar. Os custos são os servidores, o atraso adicional e os engenheiros que os ajustam.

Vários produtos comerciais mudaram de dono. A Check Point concluiu a compra da Lakera e vende a sua proteção em tempo de execução como AI Agent Security. A Palo Alto Networks comprou a Protect AI para a sua plataforma Prisma AIRS, e a F5 comprou a CalypsoAI e vende o F5 AI Guardrails. Os números deles são afirmações das próprias empresas. A Check Point atribui à Lakera “taxas de detecção acima de 98% com latência abaixo de 50 ms e falsos positivos abaixo de 0,5%”. Nenhuma das páginas de produto lidas para este artigo mostra um preço. Elas oferecem demonstrações, e a Lakera permite começar de graça.

Quais controles você precisa construir por conta própria dentro da aplicação?

Esses controles não tentam identificar o ataque. Eles limitam o que um assistente enganado consegue alcançar e fazer. A orientação da Microsoft parte de “Presuma que a injeção indireta de prompt vai acontecer”. A OWASP diz que controles críticos, como as verificações de autorização, “não devem ser delegados ao LLM”.

  • Dê ao assistente apenas as ferramentas e os direitos de que a tarefa precisa, dentro das permissões do próprio usuário logado. O item da OWASP sobre agência excessiva descreve um resumidor de e-mails que “pode precisar apenas da capacidade de ler e-mails”.
  • Mantenha o conteúdo não confiável separado das instruções. Quando a tarefa permitir, planeje cada chamada de ferramenta antes de ler qualquer texto não confiável. É o padrão “plan-then-execute” (planejar e depois executar), um dos seis de um artigo de pesquisadores de várias empresas e institutos de pesquisa, entre eles a Microsoft. Uma injeção então “não consegue forçar o LLM a executar uma ferramenta que não faz parte do plano definido.” Ela ainda pode mudar o que as chamadas planejadas enviam, como o texto de um e-mail.
  • Deixe os dados saírem apenas para lugares listados: domínios de e-mail aprovados, endereços web (URLs) aprovados e imagens ou links dos seus próprios domínios. O Google diz que o filtro de saída do Gemini “identifica URLs de imagens externas e não as renderiza”.
  • Faça uma pessoa aprovar tudo o que envia, paga, apaga ou altera registros, depois de ver o destinatário e o conteúdo reais. A Microsoft diz que, no Copilot no Outlook, “o usuário precisa aprovar explicitamente o texto gerado e enviar o e-mail por conta própria.” A Meta alerta para “um usuário que confirma às cegas um aviso intermediário”.
  • Mantenha segredos e regras de acesso fora do prompt de sistema, que, segundo a OWASP, “não deve ser considerado um segredo, nem usado como controle de segurança”.
  • Registre “a entrada e a saída completas do LLM, além do uso de ferramentas”, como sugere o NCSC. Limite quantas ações o assistente pode executar por hora ou por dia.

Esses controles têm um preço. O CaMeL é um design de pesquisadores do Google e da ETH Zurich que separa a solicitação do usuário dos dados não confiáveis. Ele concluiu 77% das tarefas nos testes de agentes do AgentDojo “com segurança comprovável”, contra 84% de um sistema sem defesa.

Quando cada linha de defesa se encaixa, e por que combiná-las?

  • As proteções do seu provedor servem como primeira camada quando o assistente roda em uma única nuvem ou provedor de modelo. Custam pouco por verificação e não exigem contrato novo.
  • Um produto ou framework de guardrails serve quando há vários modelos ou nuvens, ou quando a equipe de segurança quer uma única política e um único log. Ferramentas de código aberto também podem filtrar texto nos seus próprios servidores.
  • Os seus próprios controles pertencem a toda implantação. Quando o assistente atende às três condições da Meta, nenhum classificador reduz o risco o bastante sem eles.

A própria orientação da Microsoft diz que “nenhuma solução isolada é suficiente” e combina a detecção com controles determinísticos, que sempre se comportam da mesma maneira. O NCSC acrescenta: “Se a segurança do sistema não tolera o risco restante, talvez ele não seja um bom caso de uso para LLMs.”

Pelos preços de tabela acima, verificar um milhão de textos de 1.000 caracteres cada custa cerca de US$ 375 no nível padrão do Azure. No Bedrock, custa US$ 150 com os filtros de conteúdo ou US$ 80 com a verificação de ataques por prompt separada. O Model Armor cobra cerca de US$ 25 depois da franquia gratuita. As verificações são diferentes, então trate esses valores como estimativas aproximadas. A Microsoft avisa que essas verificações “podem bloquear ocasionalmente ações legítimas, prejudicando a experiência do usuário.”

O que testar antes do lançamento?

A OWASP aconselha testar “tratando o modelo como um usuário não confiável”. Teste o assistente inteiro com o seu próprio conteúdo, as suas ferramentas e as suas permissões:

  • Plante instruções em cada entrada: chat, arquivos enviados, documentos recuperados, e-mails recebidos, páginas web e resultados de ferramentas. Inclua texto oculto e todos os idiomas que os seus clientes usam.
  • Experimente texto codificado, instruções divididas entre arquivos e documentos longos com as instruções longe do início.
  • Plante um segredo de teste e tente tirá-lo por links de imagem, links clicáveis, e-mail de saída, requisições web e sistemas compartilhados.
  • Entre como um cliente e tente ler os dados de outro cliente.
  • Meça os falsos positivos, mensagens inofensivas sinalizadas como ataques, com tráfego real. O Google sugere começar o Model Armor no modo “Inspect only”, que registra sem bloquear.

Scanners de código aberto automatizam parte disso. O garak, da NVIDIA, sonda “vazamento de dados, injeção de prompt” e outras falhas. O PyRIT, da Microsoft, combina “varreduras automatizadas, ataques adaptativos de vários turnos e testes conduzidos por humanos.” O Promptfoo diz que “agora faz parte da OpenAI” e continua de código aberto. Ele executa testes de red team, ou ataques simulados, pela linha de comando. Repita os testes a cada troca de modelo, de prompt ou de ferramenta.

O que acontece se o assistente vazar dados pessoais?

Pelo Regulamento Geral de Proteção de Dados (GDPR) da UE, um vazamento pelo assistente pode ser uma violação de dados pessoais. O Artigo 4 do texto original a define como “uma violação da segurança que provoque, de modo acidental ou ilícito, a destruição, a perda, a alteração, a divulgação ou o acesso, não autorizados, a dados pessoais”. O Artigo 33 exige que o controlador notifique a autoridade de supervisão “sem demora injustificada e, sempre que possível, até 72 horas após ter tido conhecimento dela”. A exceção é uma violação que seja improvável que resulte em risco para os direitos e liberdades das pessoas. Os seus logs mostram o que saiu e quando.

O que perguntar a um fornecedor ou a uma empresa de desenvolvimento?

  • Quais entradas a sua verificação lê: mensagens do usuário, documentos, e-mails, resultados de ferramentas? Quais verificações vêm desativadas por padrão?
  • A verificação bloqueia, ou o nosso código precisa agir sobre o veredito dela? O que acontece quando ela está fora do ar?
  • Em quais ataques, idiomas e tráfego foram medidos os seus números de detecção e de falsos positivos? Vocês vão testar com o nosso conteúdo?
  • Onde o nosso texto é verificado, o que vocês armazenam e por quanto tempo?
  • Quanto atraso cada verificação acrescenta?
  • Quais ferramentas o assistente pode chamar, com as permissões de quem, e para onde ele pode enviar dados?
  • Quais ações precisam de aprovação, e o que o aprovador vê?
  • Se vocês construírem para nós, de quem são o código, os testes e os logs, e quais partes são componentes reutilizáveis de vocês?

Onde a amBrain se encaixa?

A amBrain publica este blog. Sobre o próprio produto, ela diz: “Nosso próprio produto, o aigo, funciona com agentes de IA que pesquisam, escrevem, checam e medem a partir de uma memória compartilhada de fatos da empresa. Uma pessoa aprova tudo o que sai.” Sobre o trabalho com modelos de linguagem para clientes, diz: “Levamos uma integração de LLM à produção dentro do perímetro de FinTech de um cliente: extração e normalização de avisos não estruturados de corretoras e bolsas — eventos corporativos, mudanças de instrumentos e de margem — em registros estruturados que o sistema de trading consome.”

Nas palavras da própria empresa: “A amBrain desenvolve software desde 2019.” Sobre como trabalha com clientes, ela diz: “Três formatos: entrega completa, equipe dedicada ou engenheiros integrados à sua equipe.” Sobre a propriedade, diz: “O cliente mantém a propriedade total do produto e do código, exceto os nossos componentes reutilizáveis.” Peça a lista desses componentes, pelo nome, antes de assinar.

Nenhuma das falas da amBrain citadas aqui trata de defesa contra injeção de prompt, e nenhuma diz que a amBrain constrói guardrails ou agentes para clientes nem revisa a segurança deles.

Este artigo não é um estudo de caso e não descreve nenhum trabalho para clientes além da fala de FinTech citada acima, que não diz nada sobre como esse projeto foi protegido. As demais citações vêm de páginas publicadas das organizações, empresas e projetos nomeados acima, de artigos de pesquisa no arXiv, do National Vulnerability Database dos EUA e do legislation.gov.uk, lidas em 13 de novembro de 2026. O artigo não afirma nenhuma relação entre a amBrain e qualquer um deles, não recomenda nenhum dos seus produtos e não traz preços nem prazos da amBrain.

Também não é aconselhamento jurídico. Pergunte a um advogado como a lei de proteção de dados se aplica ao seu assistente e o que o seu plano de resposta a violações precisa cobrir. Se a amBrain estiver na sua lista de finalistas, faça a ela as mesmas perguntas que faria a qualquer outra empresa.

Temas

  • Injeção de prompt
  • Segurança de IA
  • Guardrails
  • Construir ou comprar

Vai colocar um modelo de linguagem em produção?

Envie o design ou o problema que você está resolvendo, e os números que você já tem.

Conte sobre o seu projeto

Respondemos em até 24 horas com um plano de ação claro.

Tem um projeto assim na mesa?

Respondemos em até 24 horas com um plano de ação claro.

Call inicial gratuita sobre o projeto · 30 minutos