Inyección de prompt
Ataque en el que un texto introducido en el contexto contiene instrucciones que intentan cambiar el comportamiento del modelo.
También: prompt injection · inyección indirecta · inyección de instrucciones
GlosarioLa inyección de prompt es un ataque en el que un texto que llega al contexto del modelo contiene instrucciones para que haga algo distinto de lo que quiere tu aplicación. Es directa cuando la escribe el propio usuario e indirecta cuando viene escondida en datos que el modelo lee: una web, un correo, un PDF, el resultado de una herramienta (Greshake et al., 2023). Encabeza el Top 10 de OWASP para aplicaciones LLM.
En la práctica
El modelo no distingue de forma fiable entre instrucciones y datos, así que no hay un filtro que lo resuelva del todo. La defensa es limitar el daño posible: Mínimo privilegio en las herramientas, aprobación humana en acciones con efectos, no mezclar en el mismo agente datos no fiables con acceso a secretos y canales de salida, y Guardrails que validen las acciones en código.