GenAI
Inyección de prompts y fugas de datos en asistentes de IA: las salvaguardas de tu proveedor, un producto de guardrails o tus propios controles
Qué es la inyección de prompts, cómo las instrucciones ocultas en una página web, un correo o un documento pueden hacer que un asistente de IA filtre datos y por qué ningún filtro detecta todos los ataques. Compara las salvaguardas de Microsoft, Amazon y Google, los productos de guardrails independientes y los marcos de código abierto, y los controles que integras en tu propia aplicación, y ofrece precios publicados, pruebas que hacer antes del lanzamiento y preguntas que plantear.
Por amBrain11 min de lectura
En este artículo
La inyección de prompts es un ataque en el que un asistente de IA sigue instrucciones que un atacante ha colocado en el texto que lee. El texto puede venir del usuario o de una página web, un correo, un ticket o un documento que el asistente procesa. Si el asistente además puede acceder a datos privados y enviar cualquier cosa al exterior, una inyección exitosa puede convertirse en una fuga de datos. Hay tres líneas de defensa: las salvaguardas que ofrece tu proveedor de modelo o de nube, un producto de guardrails independiente o un marco de código abierto, y los controles integrados en tu propia aplicación. Los dos primeros hacen que los ataques tengan éxito con menos frecuencia. Solo el tercero pone límites firmes al daño, así que necesitas más de uno.
La respuesta corta: activa primero las comprobaciones de inyección de tu proveedor y confirma qué entradas leen, ya que los documentos y los resultados de herramientas suelen quedar fuera. Añade un producto o marco de guardrails independiente cuando uses varios modelos o nubes, o necesites una sola política y un solo registro. En todos los casos, integra tus propios controles en la aplicación. Da al asistente un acceso mínimo, deja que los datos vayan solo a lugares de una lista y haz que una persona apruebe enviar, pagar o borrar.
Seguir leyendo
GenAI10 min de lectura
Agentes de IA dentro de tus sistemas: qué puede hacer un agente por su cuenta, qué debe aprobar una persona y cómo empezar sin perder el control
GenAI10 min de lectura
Cómo probar un asistente de IA antes del lanzamiento: construir un conjunto de prueba con tus propios casos, fijar umbrales de aprobación y decidir quién da el visto bueno
¿Qué es la inyección de prompts y cómo llega la indirecta a un asistente?
El Open Worldwide Application Security Project (OWASP) es una fundación de seguridad sin ánimo de lucro. Sitúa la inyección de prompts en primer lugar en su Top 10 de 2025 de riesgos para las aplicaciones basadas en modelos de lenguaje de gran tamaño (LLM). En una inyección directa, el usuario escribe las instrucciones, por ejemplo diciéndole a un bot de soporte que ignore sus reglas. En una indirecta, llegan dentro de un contenido: «Las inyecciones indirectas de prompts se producen cuando un LLM acepta entradas de fuentes externas, como sitios web o archivos».
El atacante no necesita acceso a tus sistemas. El Security Response Center de Microsoft da dos ejemplos: un correo enviado a la víctima y un documento compartido. Las instrucciones que contienen «pueden estar ocultas para el usuario, por ejemplo con texto blanco sobre fondo blanco o con caracteres Unicode no imprimibles».
¿Por qué una inyección exitosa se convierte en una fuga de datos?
Una fuga necesita tres condiciones a la vez. Las nombra la «Agents Rule of Two» de Meta, inspirada en parte en la «lethal trifecta» de Simon Willison:
- El asistente procesa entradas no fiables, como correo entrante o páginas web.
- Puede acceder a sistemas sensibles o a datos privados.
- Puede modificar registros o enviar datos al exterior.
Meta dice que un asistente no debería tener más de dos de estas condiciones en una misma sesión. Cuando una tarea necesita las tres en la misma sesión, el asistente «no debería poder operar de forma autónoma y, como mínimo, requiere supervisión».
Los datos pueden salir sin una herramienta de correo. Microsoft describe un modelo que escribe un enlace de imagen cuya dirección web lleva los datos robados. El navegador del usuario carga la imagen y envía los datos al atacante «sin ninguna interacción del usuario». Un enlace en el que se puede hacer clic filtra los mismos datos en cuanto alguien hace clic, y una herramienta que escribe en un lugar público puede filtrarlos directamente.
La National Vulnerability Database de EE. UU. registra un fallo de inyección en Microsoft 365 Copilot que «permite a un atacante no autorizado revelar información a través de una red». Microsoft calificó su gravedad con 9,3 sobre 10. Las reglas incluidas en las instrucciones del modelo, el prompt del sistema, no detienen de forma fiable estas fugas. La entrada de OWASP sobre la divulgación de información sensible dice que «puede que no siempre se respeten y que se puedan eludir mediante inyección de prompts u otros métodos».
¿Por qué ningún filtro detecta todas las inyecciones?
El National Cyber Security Centre (NCSC) del Reino Unido explica por qué: «Los modelos de lenguaje de gran tamaño (LLM) actuales simplemente no aplican un límite de seguridad entre las instrucciones y los datos dentro de un prompt». La inyección SQL, un ataque más antiguo contra bases de datos, se detiene no tratando nunca una entrada como una orden. Un modelo de lenguaje no puede hacerlo, de modo que el NCSC concluye que la inyección de prompts «seguirá siendo un riesgo residual y no puede mitigarse por completo con un producto o un dispositivo».
Los proveedores de modelos coinciden. Meta llama a la inyección de prompts «una debilidad fundamental y sin resolver de todos los LLM». Anthropic probó su extensión de navegador para Chrome frente a un atacante adaptativo interno, con 100 intentos por entorno de prueba. El atacante aun así tuvo éxito en aproximadamente el 1 % de los ataques contra Claude Opus 4.5 con las salvaguardas mejoradas de Anthropic. Anthropic dice que este nivel «sigue representando un riesgo significativo».
Los modelos de detección, o clasificadores, aprenden de ataques ya vistos. Meta dice que su clasificador Prompt Guard 2 se dirige a «patrones de ataque explícitos y conocidos» y enumera la «Vulnerability to Adaptive Attacks» entre sus límites. El NCSC aconseja a los compradores: «Desconfía de cualquiera que afirme que puede “detener” la inyección de prompts, y fíjate mejor en quienes entienden cómo la reducen».
¿Qué cubren las salvaguardas de tu proveedor de modelo o de nube?
Microsoft, Amazon y Google venden comprobaciones de inyección que se ejecutan junto al modelo.
Prompt Shields de Microsoft, parte de Azure AI Content Safety, detecta los «User prompt attacks» y los «Document attacks». Microsoft define estos últimos como «Instrucciones ocultas incrustadas en el contenido de documentos (documentos, correos, páginas web)». En la plataforma Foundry de Microsoft para modelos y agentes, «la detección de ataques a documentos está desactivada por defecto». Cuando llamas al servicio a través de su interfaz de programación de aplicaciones (API), «la API no bloquea ni enruta por sí misma el contenido», de modo que tu código actúa según el resultado. Sus modelos de detección están «entrenados y evaluados principalmente con contenido en inglés». La lista de precios de Microsoft ahora llama al servicio Content Safety in Foundry Control Plane. Muestra un nivel gratuito de 5000 registros de texto al mes. El nivel estándar cuesta 0,375 dólares por cada 1000 registros de texto, de hasta 1000 caracteres cada uno, en la mayoría de las regiones.
Amazon Bedrock Guardrails define la inyección que detecta su filtro de ataques de prompt como «Prompts de usuario diseñados para ignorar y anular las instrucciones especificadas por el desarrollador». Con las llamadas InvokeModel de Bedrock, la entrada del usuario debe etiquetarse: «Si no hay etiquetas, los ataques de prompt de esos casos de uso no se filtrarán». Amazon añade: «El filtro de ataques de prompt no evalúa los resultados de las herramientas». Los filtros de contenido, que incluyen la comprobación de ataques de prompt, cuestan 0,15 dólares por cada 1000 unidades de texto de hasta 1000 caracteres. La comprobación de ataques de prompt por sí sola cuesta 0,08 dólares mediante una operación aparte. El filtro que bloquea u oculta datos personales cuesta 0,10 dólares.
Model Armor de Google Cloud revisa prompts, respuestas y documentos subidos en busca de inyección, datos sensibles y enlaces maliciosos, para IA desplegada «en Google Cloud o en otros proveedores de nube». «Inspecciona cada prompt y cada respuesta de forma independiente, como una solicitud de un solo turno», sin mirar los mensajes anteriores. Además, «no decodifica ni inspecciona contenido codificado, como prompts codificados en Base64», una forma habitual de escribir datos con letras, dígitos y unos pocos símbolos. Model Armor es gratuito hasta 2 millones de tokens al mes y después cuesta 0,10 dólares por cada millón adicional de tokens, a razón de unos cuatro caracteres por token.
Los proveedores también entrenan sus modelos para resistir la inyección. Google dice que el entrenamiento adversarial «mejoró significativamente nuestras defensas frente a los ataques de inyección indirecta de prompts en los modelos Gemini 2.5». La biblioteca de código abierto OpenAI Guardrails, todavía en versión preliminar, incluye una comprobación de inyección que busca «Misaligned tool calls and tool outputs».
¿Qué aporta un producto de guardrails independiente o un marco de código abierto?
Una capa de guardrails independiente puede situarse entre tu aplicación y cada modelo al que esta llama, de modo que un único conjunto de reglas y un único registro los cubran todos.
NeMo Guardrails de NVIDIA es de código abierto con la licencia Apache 2.0. Ejecuta comprobaciones, que llama rails, sobre la entrada del usuario, los fragmentos de documentos recuperados, las llamadas a herramientas y la salida. Un rail de recuperación «puede rechazar un fragmento e impedir que se use para dar instrucciones al LLM». Llama Prompt Guard 2 de Meta es un clasificador pequeño que ejecutas en tus propios servidores. Lee 512 tokens cada vez, así que los documentos largos deben dividirse. Ambos se pueden descargar gratis. Los costes son los servidores, el retraso añadido y los ingenieros que los ajustan.
Varios productos comerciales han cambiado de dueño. Check Point completó la compra de Lakera y vende su protección en tiempo de ejecución como AI Agent Security. Palo Alto Networks compró Protect AI para su plataforma Prisma AIRS, y F5 compró CalypsoAI y vende F5 AI Guardrails. Sus cifras son afirmaciones propias. Check Point atribuye a Lakera «tasas de detección superiores al 98 por ciento con una latencia inferior a 50 ms y falsos positivos por debajo del 0,5 por ciento». Ninguna de las páginas de producto leídas para este artículo muestra un precio. Ofrecen demostraciones, y Lakera permite empezar gratis.
¿Qué controles tienes que integrar tú mismo en la aplicación?
Estos controles no intentan detectar el ataque. Limitan a qué puede acceder y qué puede hacer un asistente engañado. La guía de Microsoft parte de «Supón que la inyección indirecta de prompts va a ocurrir». OWASP dice que los controles críticos, como las comprobaciones de autorización, «no deben delegarse en el LLM».
- Da al asistente solo las herramientas y los permisos que necesita su tarea, dentro de los permisos del propio usuario con sesión iniciada. La entrada de OWASP sobre la agencia excesiva describe un resumidor de correo que «puede que solo necesite la capacidad de leer correos».
- Mantén el contenido no fiable separado de las instrucciones. Cuando la tarea lo permita, planifica cada llamada a herramientas antes de leer cualquier texto no fiable. Es el patrón «plan-then-execute», uno de los seis de un artículo de investigadores de varias empresas e institutos de investigación, entre ellas Microsoft. Entonces una inyección «no puede obligar al LLM a ejecutar una herramienta que no forma parte del plan definido». Aun así, puede cambiar lo que envían las llamadas planificadas, como el texto de un correo.
- Permite que los datos vayan solo a lugares de una lista: dominios de correo aprobados, direcciones web (URL) aprobadas e imágenes o enlaces de tus propios dominios. Google dice que el filtro de salida de Gemini «identifica las URL de imágenes externas y no las muestra».
- Haz que una persona apruebe todo lo que envíe, pague, borre o modifique registros, tras ver el destinatario y el contenido reales. Microsoft dice que en Copilot en Outlook «el usuario debe aprobar explícitamente el texto generado y enviar el correo él mismo». Meta advierte del riesgo de «un usuario que confirma a ciegas un aviso interstitial».
- Mantén los secretos y las reglas de acceso fuera del prompt del sistema, que según OWASP «no debe considerarse un secreto ni utilizarse como control de seguridad».
- Registra «la entrada y la salida completas del LLM, así como el uso de herramientas», como sugiere el NCSC. Limita cuántas acciones puede realizar el asistente por hora o por día.
Estos controles tienen un precio. CaMeL es un diseño de investigadores de Google y de ETH Zurich que separa la solicitud del usuario de los datos no fiables. Completó el 77 % de las tareas de las pruebas de agentes AgentDojo «con seguridad demostrable», frente al 84 % de un sistema sin defensas.
Seguir leyendo
GenAI10 min de lectura
Un asistente de IA para la atención al cliente: el complemento de IA de tu helpdesk, una plataforma de chatbots o un asistente a medida con tus propios datos
GenAI10 min de lectura
Busca en el conocimiento de tu empresa con IA: Copilot o Gemini, un producto de búsqueda como Glean o desarrollo propio
¿Cuándo encaja cada línea de defensa y por qué combinarlas?
- Las salvaguardas de tu proveedor encajan como primera capa cuando el asistente funciona sobre una sola nube o un solo proveedor de modelo. Cuestan poco por comprobación y no requieren un contrato nuevo.
- Un producto o marco de guardrails encaja cuando tienes varios modelos o nubes, o un equipo de seguridad que quiere una sola política y un solo registro. Las herramientas de código abierto también pueden revisar texto en tus propios servidores.
- Tus propios controles tienen cabida en cada despliegue. Cuando el asistente cumple las tres condiciones de Meta, ningún clasificador reduce el riesgo lo suficiente sin ellos.
La propia guía de Microsoft dice que «ninguna solución por sí sola es suficiente» y combina la detección con controles deterministas, que siempre se comportan igual. El NCSC añade: «Si la seguridad del sistema no puede tolerar el riesgo restante, puede que no sea un buen caso de uso para los LLM».
Con los precios de lista anteriores, revisar un millón de textos de 1000 caracteres cada uno cuesta unos 375 dólares en el nivel estándar de Azure. En Bedrock cuesta 150 dólares con los filtros de contenido o 80 dólares con la comprobación de ataques de prompt por separado. Model Armor cobra unos 25 dólares una vez agotada la cuota gratuita. Las comprobaciones no son idénticas, así que toma estas cifras como una referencia aproximada. Microsoft advierte de que estas comprobaciones «pueden bloquear ocasionalmente acciones legítimas y afectar a la experiencia del usuario».
¿Qué debes probar antes del lanzamiento?
OWASP aconseja probar «tratando al modelo como a un usuario no fiable». Prueba el asistente completo con tu propio contenido, tus herramientas y tus permisos:
- Planta instrucciones en cada entrada: chat, archivos subidos, documentos recuperados, correo entrante, páginas web y resultados de herramientas. Incluye texto oculto y todos los idiomas que usan tus clientes.
- Prueba texto codificado, instrucciones repartidas en varios archivos y documentos largos con las instrucciones muy lejos del principio.
- Planta un secreto de prueba e intenta sacarlo mediante enlaces de imagen, enlaces en los que se hace clic, correo saliente, solicitudes web y sistemas compartidos.
- Inicia sesión como un cliente e intenta leer los datos de otro cliente.
- Mide los falsos positivos, es decir, los mensajes inofensivos señalados como ataques, con tráfico real. Google sugiere empezar con Model Armor en modo «Inspect only», que registra sin bloquear.
Los escáneres de código abierto automatizan una parte de este trabajo. garak de NVIDIA busca «fuga de datos, inyección de prompts» y otros fallos. PyRIT de Microsoft combina «análisis automatizados, ataques adaptativos de varios turnos y pruebas dirigidas por personas». Promptfoo dice que «ahora forma parte de OpenAI» y sigue siendo de código abierto. Ejecuta pruebas de red team, o ataques simulados, desde la línea de comandos. Repite las pruebas después de cada cambio de modelo, de prompt o de herramienta.
¿Qué pasa si el asistente filtra datos personales?
Según el Reglamento General de Protección de Datos (GDPR) de la UE, una fuga a través del asistente puede constituir una violación de la seguridad de los datos personales. El artículo 4 del texto original la define como «una violación de la seguridad que ocasione la destrucción, pérdida o alteración accidental o ilícita de datos personales, o la comunicación o acceso no autorizados a dichos datos». El artículo 33 exige que el responsable del tratamiento lo notifique a la autoridad de control «sin dilación indebida y, de ser posible, a más tardar 72 horas después de que haya tenido constancia de ella». La excepción es una violación que no sea probable que entrañe un riesgo para los derechos y las libertades de las personas. Tus registros muestran qué salió y cuándo.
¿Qué debes preguntar a un proveedor o a una empresa de desarrollo?
- ¿Qué entradas lee vuestra comprobación: mensajes de usuario, documentos, correo, resultados de herramientas? ¿Qué comprobaciones están desactivadas por defecto?
- ¿La comprobación bloquea, o tiene que actuar nuestro código según su veredicto? ¿Qué pasa cuando no está disponible?
- ¿Con qué ataques, idiomas y tráfico se midieron vuestras cifras de detección y de falsos positivos? ¿Haréis pruebas con nuestro contenido?
- ¿Dónde se revisa nuestro texto, qué guardáis y durante cuánto tiempo?
- ¿Cuánto retraso añade cada comprobación?
- ¿Qué herramientas puede llamar el asistente, con los permisos de quién y adónde puede enviar datos?
- ¿Qué acciones necesitan aprobación y qué ve quien aprueba?
- Si lo construís para nosotros, ¿quién es el propietario del código, las pruebas y los registros, y cuáles son vuestros componentes reutilizables?
¿Dónde encaja amBrain?
amBrain publica este blog. Sobre su propio producto, dice: «Nuestro propio producto, aigo, funciona con agentes de IA que investigan, escriben, revisan y miden a partir de una memoria compartida de datos de la empresa. Una persona aprueba todo lo que sale». Sobre el trabajo con clientes que usa un modelo de lenguaje, dice: «Hemos llevado a producción una integración de LLM dentro del perímetro FinTech de un cliente: extraer y normalizar avisos no estructurados de brókeres y mercados —eventos corporativos, cambios de instrumentos y de márgenes— en registros estructurados que consume el sistema de trading».
En sus propias palabras: «amBrain desarrolla software desde 2019». Sobre cómo trabaja con los clientes, dice: «Tres formatos: entrega completa, equipo dedicado o ingenieros integrados en tu equipo». Su línea sobre la propiedad es «El cliente conserva la plena propiedad del producto y del código, salvo nuestros componentes reutilizables». Pide la lista de esos componentes por su nombre antes de firmar.
Ninguna de las líneas de amBrain citadas aquí trata de la defensa contra la inyección de prompts, y ninguna dice que amBrain construya guardrails o agentes para clientes ni que revise su seguridad.
Este artículo no es un caso práctico y no describe trabajo para ningún cliente más allá de la línea de FinTech citada arriba, que no dice nada sobre cómo se aseguró ese proyecto. Las demás citas proceden de páginas publicadas de las organizaciones, empresas y proyectos mencionados arriba, de artículos de investigación en arXiv, de la National Vulnerability Database de EE. UU. y de legislation.gov.uk, leídas el 13 de noviembre de 2026. El artículo no afirma ninguna relación entre amBrain y ninguno de ellos, no recomienda ninguno de sus productos y no da precios ni plazos de amBrain.
Tampoco es asesoramiento jurídico. Pregunta a un abogado cómo se aplica la normativa de protección de datos a tu asistente y qué debe cubrir tu plan ante brechas. Si amBrain está en tu lista corta, hazle las mismas preguntas que a cualquier otra empresa.
Temas
- Prompt injection
- Seguridad de la IA
- Guardrails
- Construir o comprar