GenAI
Injection de prompt et fuites de données dans les assistants IA : les protections de votre fournisseur, un produit de garde-fous ou vos propres contrôles
Ce qu'est l'injection de prompt, comment des instructions cachées dans une page web, un e-mail ou un document peuvent amener un assistant IA à divulguer des données, et pourquoi aucun filtre n'arrête toutes les attaques. L'article compare les protections de Microsoft, d'Amazon et de Google, les produits de garde-fous distincts et les frameworks open source, ainsi que les contrôles à intégrer à votre propre application, et donne des prix publiés, des tests à mener avant le lancement et des questions à poser.
Par amBrainLecture 11 min
Dans cet article
L'injection de prompt est une attaque dans laquelle un assistant IA suit des instructions qu'un attaquant a placées dans le texte qu'il lit. Ce texte peut venir de l'utilisateur ou d'une page web, d'un e-mail, d'un ticket ou d'un document que l'assistant traite. Si l'assistant peut aussi accéder à des données privées et envoyer quoi que ce soit à l'extérieur, une injection réussie peut devenir une fuite de données. Il existe trois lignes de défense : les protections que propose votre fournisseur de modèle ou de cloud, un produit de garde-fous distinct ou un framework open source, et des contrôles intégrés à votre propre application. Les deux premières réduisent la fréquence des attaques réussies. Seule la troisième pose des limites strictes aux dégâts : il en faut donc plusieurs.
En bref : activez d'abord les contrôles d'injection de votre fournisseur et vérifiez quelles entrées ils lisent, car les documents et les résultats d'outils sont souvent laissés de côté. Ajoutez un produit ou un framework de garde-fous distinct quand vous utilisez plusieurs modèles ou clouds, ou qu'il vous faut une seule politique et un seul journal. Dans tous les cas, intégrez vos propres contrôles à l'application. Donnez à l'assistant un accès minimal, ne laissez les données sortir que vers des destinations listées, et faites approuver par une personne tout envoi, paiement ou suppression.
À lire aussi
GenAILecture 10 min
Les agents IA dans vos systèmes : ce qu'un agent peut faire seul, ce qu'une personne doit approuver, et comment démarrer sans perdre le contrôle
GenAILecture 10 min
Comment tester un assistant IA avant son lancement : constituer un jeu de test à partir de vos propres cas, fixer des seuils de réussite et décider qui valide
Qu'est-ce que l'injection de prompt, et comment l'injection indirecte atteint-elle un assistant ?
L'Open Worldwide Application Security Project (OWASP) est une fondation à but non lucratif consacrée à la sécurité. Elle classe l'injection de prompt en première position de son Top 10 2025 des risques pour les applications fondées sur de grands modèles de langage (LLM). Dans une injection directe, l'utilisateur saisit les instructions, par exemple en disant à un bot de support d'ignorer ses règles. Dans une injection indirecte, elles arrivent à l'intérieur d'un contenu : « Les injections de prompt indirectes se produisent lorsqu'un LLM accepte des entrées provenant de sources externes, comme des sites web ou des fichiers. »
L'attaquant n'a besoin d'aucun accès à vos systèmes. Le Security Response Center de Microsoft donne deux exemples : un e-mail envoyé à la victime et un document partagé. Les instructions qu'ils contiennent « peuvent être cachées à l'utilisateur, par exemple avec du texte blanc sur fond blanc ou des caractères Unicode non imprimables ».
Pourquoi une injection réussie se transforme-t-elle en fuite de données ?
Une fuite exige trois conditions à la fois. La « règle de deux des agents » (« Agents Rule of Two ») de Meta, inspirée en partie par la « triade létale » (« lethal trifecta ») de Simon Willison, les énonce :
- L'assistant traite des entrées non fiables, comme des e-mails entrants ou des pages web.
- Elle peut accéder à des systèmes sensibles ou à des données privées.
- Elle peut modifier des enregistrements ou envoyer des données à l'extérieur.
Meta estime qu'un assistant ne devrait pas réunir plus de deux de ces conditions dans une même session. Quand une tâche exige les trois dans la même session, l'assistant « ne doit pas être autorisé à fonctionner de manière autonome et exige au minimum une supervision ».
Des données peuvent sortir sans outil d'envoi d'e-mails. Microsoft décrit un modèle qui écrit un lien d'image dont l'adresse web contient des données volées. Le navigateur de l'utilisateur charge l'image et envoie les données à l'attaquant « sans aucune interaction de l'utilisateur ». Un lien cliquable divulgue les mêmes données une fois cliqué, et un outil qui écrit dans un espace public peut les divulguer directement.
La National Vulnerability Database américaine recense une faille d'injection dans Microsoft 365 Copilot qui « permet à un attaquant non autorisé de divulguer des informations via un réseau ». Microsoft lui a attribué une gravité de 9,3 sur 10. Les règles placées dans les instructions du modèle, le prompt système, n'empêchent pas ces fuites de façon fiable. L'entrée de l'OWASP sur la divulgation d'informations sensibles indique qu'elles « ne sont pas toujours respectées et peuvent être contournées par injection de prompt ou d'autres méthodes ».
Pourquoi aucun filtre ne peut-il arrêter toutes les injections ?
Le National Cyber Security Centre (NCSC) britannique explique pourquoi : « Les grands modèles de langage (LLM) actuels n'imposent tout simplement pas de frontière de sécurité entre les instructions et les données à l'intérieur d'un prompt. » L'injection SQL, une attaque plus ancienne contre les bases de données, est neutralisée en ne traitant jamais une entrée comme une commande. Un modèle de langage ne peut pas faire cela : le NCSC en conclut que l'injection de prompt « restera un risque résiduel et ne peut pas être entièrement atténuée par un produit ou une appliance ».
Les fournisseurs de modèles partagent ce constat. Meta qualifie l'injection de prompt de « faiblesse fondamentale et non résolue de tous les LLM ». Anthropic a testé son extension de navigateur Chrome face à un attaquant adaptatif interne, avec 100 tentatives par environnement de test. L'attaquant a tout de même réussi dans environ 1 % des attaques contre Claude Opus 4.5 doté des protections améliorées d'Anthropic. Anthropic estime que ce niveau « représente encore un risque significatif ».
Les modèles de détection, ou classifieurs, apprennent à partir d'attaques déjà observées. Meta indique que son classifieur Prompt Guard 2 cible des « schémas d'attaque explicites et connus » et cite la « vulnérabilité aux attaques adaptatives » parmi ses limites. Le NCSC conseille aux acheteurs : « Méfiez-vous de ceux qui prétendent pouvoir "arrêter" l'injection de prompt, et intéressez-vous plutôt à ceux qui comprennent comment ils la réduisent. »
Que couvrent les protections de votre fournisseur de modèle ou de cloud ?
Microsoft, Amazon et Google proposent des contrôles d'injection qui s'exécutent à côté du modèle.
Prompt Shields de Microsoft, qui fait partie d'Azure AI Content Safety, détecte les « attaques par prompt utilisateur » (« User prompt attacks ») et les « attaques par document » (« Document attacks »). Microsoft définit la seconde comme des « instructions cachées intégrées au contenu d'un document (documents, e-mails, pages web) ». Dans la plateforme Foundry de Microsoft pour les modèles et les agents, « la détection des attaques par document est désactivée par défaut ». Quand vous appelez le service par son interface de programmation (API), « l'API ne bloque ni n'achemine elle-même le contenu » : c'est donc votre code qui agit sur le résultat. Ses modèles de détection sont « principalement entraînés et évalués sur du contenu en anglais ». La grille tarifaire de Microsoft appelle désormais le service Content Safety in Foundry Control Plane. Elle indique un niveau gratuit de 5 000 enregistrements de texte par mois. Le niveau standard coûte 0,375 $ pour 1 000 enregistrements de texte, chacun d'au plus 1 000 caractères, dans la plupart des régions.
Amazon Bedrock Guardrails définit l'injection que détecte son filtre d'attaques par prompt ainsi : « Invites utilisateur conçues pour ignorer et contourner les instructions spécifiées par le développeur. » Avec les appels InvokeModel de Bedrock, l'entrée de l'utilisateur doit être balisée : « En l'absence de balises, les attaques par prompt ne seront pas filtrées pour ces cas d'usage. » Amazon ajoute : « Le filtre d'attaques par prompt n'évalue pas les résultats des outils. » Les filtres de contenu, qui incluent la détection des attaques par prompt, coûtent 0,15 $ pour 1 000 unités de texte d'au plus 1 000 caractères. La détection des attaques par prompt seule coûte 0,08 $ via une opération distincte. Le filtre qui bloque ou masque les données personnelles coûte 0,10 $.
Model Armor de Google Cloud analyse les prompts, les réponses et les documents téléversés à la recherche d'injections, de données sensibles et de liens malveillants, pour une IA déployée « dans Google Cloud ou chez d'autres fournisseurs cloud ». Il « inspecte chaque prompt et chaque réponse indépendamment, comme une requête à un seul tour », sans regarder les messages précédents. Il « ne décode ni n'inspecte les contenus encodés, comme les prompts encodés en Base64 », une manière courante d'écrire des données avec des lettres, des chiffres et quelques symboles. Model Armor est gratuit jusqu'à 2 millions de tokens par mois, puis coûte 0,10 $ par million de tokens supplémentaire, à raison d'environ quatre caractères par token.
Les fournisseurs entraînent aussi leurs modèles à résister à l'injection. Google indique que l'entraînement adverse « a considérablement renforcé nos défenses contre les attaques par injection de prompt indirecte dans les modèles Gemini 2.5 ». La bibliothèque open source OpenAI Guardrails, encore en préversion, propose un contrôle d'injection qui recherche les « appels d'outils et sorties d'outils désalignés » (« Misaligned tool calls and tool outputs »).
Qu'apporte de plus un produit de garde-fous distinct ou un framework open source ?
Une couche de garde-fous distincte peut se placer entre votre application et chaque modèle qu'elle appelle : un seul jeu de règles et un seul journal couvrent alors l'ensemble.
NeMo Guardrails de NVIDIA est open source, sous licence Apache 2.0. Il exécute des contrôles, qu'il appelle « rails », sur les entrées de l'utilisateur, les fragments de documents récupérés, les appels d'outils et les sorties. Un rail de récupération « peut rejeter un fragment, l'empêchant d'être utilisé pour alimenter le prompt du LLM ». Llama Prompt Guard 2 de Meta est un petit classifieur que vous exécutez sur vos propres serveurs. Il lit 512 tokens à la fois : les longs documents doivent donc être découpés. Les deux se téléchargent gratuitement. Les coûts sont les serveurs, le délai supplémentaire et les ingénieurs qui les paramètrent.
Plusieurs produits commerciaux ont changé de propriétaire. Check Point a finalisé le rachat de Lakera et commercialise sa protection à l'exécution sous le nom AI Agent Security. Palo Alto Networks a racheté Protect AI pour sa plateforme Prisma AIRS, et F5 a racheté CalypsoAI et commercialise F5 AI Guardrails. Leurs chiffres sont leurs propres affirmations. Check Point attribue à Lakera des « taux de détection supérieurs à 98 % avec une latence inférieure à 50 ms et des faux positifs inférieurs à 0,5 % ». Aucune des pages produit consultées pour cet article n'affiche de prix. Elles proposent des démonstrations, et Lakera permet de démarrer gratuitement.
Quels contrôles devez-vous intégrer vous-même à l'application ?
Ces contrôles ne cherchent pas à repérer l'attaque. Ils limitent ce qu'un assistant trompé peut atteindre et faire. Les consignes de Microsoft partent de ce principe : « Supposez que l'injection de prompt indirecte se produira ». L'OWASP affirme que les contrôles critiques, comme les vérifications d'autorisation, « ne doivent pas être délégués au LLM ».
- Ne donnez à l'assistant que les outils et les droits dont sa tâche a besoin, dans la limite des permissions de l'utilisateur connecté. L'entrée de l'OWASP sur l'autonomie excessive décrit un outil de synthèse de messagerie qui « peut n'avoir besoin que de la capacité de lire les e-mails ».
- Séparez le contenu non fiable des instructions. Quand la tâche le permet, planifiez chaque appel d'outil avant de lire le moindre texte non fiable. C'est le schéma « planifier puis exécuter » (« plan-then-execute »), l'un des six décrits dans un article de chercheurs de plusieurs entreprises et instituts de recherche, dont Microsoft. Une injection « ne peut alors pas forcer le LLM à exécuter un outil qui ne fait pas partie du plan défini ». Elle peut toutefois modifier ce que les appels prévus envoient, comme le texte d'un e-mail.
- Ne laissez les données sortir que vers des destinations listées : domaines d'e-mail approuvés, adresses web (URL) approuvées, et images ou liens provenant de vos propres domaines. Google indique que le filtre de sortie de Gemini « identifie les URL d'images externes et ne les affiche pas ».
- Faites approuver par une personne tout ce qui envoie, paie, supprime ou modifie des enregistrements, après qu'elle a vu le vrai destinataire et le vrai contenu. Microsoft indique que dans Copilot pour Outlook, « l'utilisateur doit approuver explicitement le texte généré et envoyer lui-même l'e-mail ». Meta met en garde contre « un utilisateur qui confirme aveuglément un avertissement intermédiaire ».
- Gardez les secrets et les règles d'accès hors du prompt système, qui, selon l'OWASP, « ne doit pas être considéré comme un secret, ni utilisé comme un contrôle de sécurité ».
- Journalisez « l'intégralité des entrées et sorties du LLM, ainsi que l'utilisation des outils », comme le suggère le NCSC. Plafonnez le nombre d'actions que l'assistant peut effectuer par heure ou par jour.
Ces contrôles ont un prix. CaMeL est une conception de chercheurs de Google et de l'ETH Zurich qui sépare la demande de l'utilisateur des données non fiables. Il a mené à bien 77 % des tâches des tests d'agents AgentDojo « avec une sécurité démontrable », contre 84 % pour un système non protégé.
À lire aussi
GenAILecture 10 min
Un assistant IA pour le support client : le module IA de votre outil de support, une plateforme de chatbot ou un assistant sur mesure construit sur vos propres données
GenAILecture 10 min
Rechercher les connaissances de votre entreprise avec l'IA : Copilot ou Gemini, un produit de recherche comme Glean, ou votre propre développement
Quand chaque ligne de défense convient-elle, et pourquoi les combiner ?
- Les protections de votre fournisseur conviennent comme première couche quand l'assistant tourne chez un seul fournisseur de cloud ou de modèle. Elles coûtent peu par contrôle et n'exigent aucun nouveau contrat.
- Un produit ou un framework de garde-fous convient quand vous utilisez plusieurs modèles ou clouds, ou quand une équipe sécurité veut une seule politique et un seul journal. Des outils open source peuvent aussi filtrer le texte sur vos propres serveurs.
- Vos propres contrôles ont leur place dans chaque déploiement. Quand l'assistant réunit les trois conditions de Meta, aucun classifieur ne réduit assez le risque sans eux.
Les consignes de Microsoft elles-mêmes affirment qu'« aucune solution unique n'est suffisante » et associent la détection à des contrôles déterministes, qui se comportent toujours de la même façon. Le NCSC ajoute : « Si la sécurité du système ne peut pas tolérer le risque résiduel, ce n'est peut-être pas un bon cas d'usage pour les LLM. »
Aux prix catalogue ci-dessus, vérifier un million de textes de 1 000 caractères chacun coûte environ 375 $ au niveau standard d'Azure. Sur Bedrock, cela coûte 150 $ avec les filtres de contenu ou 80 $ avec la détection distincte des attaques par prompt. Model Armor facture environ 25 $ après le quota gratuit. Les contrôles diffèrent : considérez ces chiffres comme des ordres de grandeur. Microsoft prévient que de tels contrôles « peuvent parfois bloquer des actions légitimes, ce qui nuit à l'expérience utilisateur ».
Que tester avant le lancement ?
L'OWASP recommande de tester en « traitant le modèle comme un utilisateur non fiable ». Testez l'assistant dans son ensemble avec vos propres contenus, outils et permissions :
- Placez des instructions dans chaque entrée : chat, fichiers téléversés, documents récupérés, e-mails entrants, pages web et résultats d'outils. Incluez du texte caché et toutes les langues de vos clients.
- Essayez du texte encodé, des instructions réparties sur plusieurs fichiers, et de longs documents où les instructions sont loin du début.
- Placez un faux secret de test et essayez de le faire sortir par des liens d'images, des liens cliquables, des e-mails sortants, des requêtes web et des systèmes partagés.
- Connectez-vous comme un client et essayez de lire les données d'un autre client.
- Mesurez les faux positifs, c'est-à-dire les messages inoffensifs signalés comme des attaques, sur du trafic réel. Google suggère de démarrer Model Armor en mode « Inspect only », qui journalise sans bloquer.
Des scanners open source automatisent une partie de ce travail. garak de NVIDIA recherche des « fuites de données, injections de prompt » et d'autres défaillances. PyRIT de Microsoft associe « analyses automatisées, attaques adaptatives multi-tours et tests menés par des humains ». Promptfoo indique qu'il « fait désormais partie d'OpenAI » et reste open source. Il exécute des tests de red teaming, c'est-à-dire des attaques simulées, depuis la ligne de commande. Répétez les tests après chaque changement de modèle, de prompt ou d'outil.
Que se passe-t-il si l'assistant divulgue des données personnelles ?
Selon le Règlement général sur la protection des données (RGPD) de l'UE, une fuite par l'assistant peut constituer une violation de données à caractère personnel. L'article 4 du texte original la définit comme « une violation de la sécurité entraînant, de manière accidentelle ou illicite, la destruction, la perte, l'altération, la divulgation non autorisée de données à caractère personnel ou l'accès non autorisé à celles-ci ». L'article 33 impose au responsable du traitement de la notifier à l'autorité de contrôle « dans les meilleurs délais et, si possible, 72 heures au plus tard après en avoir pris connaissance ». L'exception est une violation peu susceptible d'engendrer un risque pour les droits et libertés des personnes. Vos journaux montrent ce qui est sorti et quand.
Que demander à un éditeur ou à une société de développement ?
- Quelles entrées votre contrôle lit-il : messages des utilisateurs, documents, e-mails, résultats d'outils ? Quels contrôles sont désactivés par défaut ?
- Le contrôle bloque-t-il, ou notre code doit-il agir selon son verdict ? Que se passe-t-il quand il est en panne ?
- Sur quelles attaques, quelles langues et quel trafic vos chiffres de détection et de faux positifs ont-ils été mesurés ? Testerez-vous sur notre contenu ?
- Où notre texte est-il analysé, que conservez-vous, et pendant combien de temps ?
- Quel délai chaque contrôle ajoute-t-il ?
- Quels outils l'assistant peut-il appeler, avec les permissions de qui, et où peut-il envoyer des données ?
- Quelles actions nécessitent une approbation, et que voit la personne qui approuve ?
- Si vous le développez pour nous, à qui appartiennent le code, les tests et les journaux, et quelles parties sont vos composants réutilisables ?
Où se situe amBrain ?
amBrain publie ce blog. À propos de son propre produit, l'entreprise écrit : « Notre propre produit, aigo, repose sur des agents IA qui recherchent, rédigent, vérifient et mesurent à partir d'une mémoire commune des faits de l'entreprise. Une personne approuve tout ce qui est publié. » À propos des projets clients avec un modèle de langage, elle écrit : « Nous avons mis en production une intégration de LLM dans le périmètre FinTech d'un client : extraction et normalisation d'avis non structurés de courtiers et de plateformes de négociation — opérations sur titres, changements d'instruments et de marges — en enregistrements structurés que le système de trading consomme. »
Dans ses propres mots : « amBrain développe des logiciels depuis 2019. » Sur sa façon de travailler avec les clients, elle écrit : « Trois formats : livraison complète, équipe dédiée, ou ingénieurs intégrés à votre équipe. » Sa ligne sur la propriété est : « Le client conserve l'entière propriété du produit et du code, à l'exception de nos composants réutilisables. » Demandez la liste nominative de ces composants avant de signer.
Aucune des phrases d'amBrain citées ici ne porte sur la défense contre l'injection de prompt, et aucune n'indique qu'amBrain conçoit des garde-fous ou des agents pour ses clients, ni qu'elle examine leur sécurité.
Cet article n'est pas une étude de cas et ne décrit aucun travail client au-delà de la ligne FinTech citée plus haut, qui ne dit rien de la manière dont ce projet a été sécurisé. Les autres citations proviennent de pages publiées par les organisations, entreprises et projets nommés ci-dessus, d'articles de recherche sur arXiv, de la National Vulnerability Database américaine et de legislation.gov.uk, consultés le 13 novembre 2026. L'article n'affirme aucun lien entre amBrain et l'un d'eux, ne recommande aucun de leurs produits et ne donne ni prix ni délais d'amBrain.
Ce n'est pas non plus un avis juridique. Demandez à un juriste comment le droit de la protection des données s'applique à votre assistant et ce que votre plan de gestion des violations doit couvrir. Si amBrain figure sur votre liste restreinte, posez-lui les mêmes questions qu'à n'importe quelle autre société.
Thèmes
- Injection de prompt
- Sécurité de l'IA
- Garde-fous
- Construire ou acheter