Empezar aquí

#prompt-injection

7 páginas con esta etiqueta.

Roadmap

1

  • Seguridad: prompt injection y permisos

    Cómo llega la inyección de prompt a un agente, directa o a través de herramientas, y cómo limitar el daño con mínimo privilegio y comprobaciones en código.

Cursos

4

  • Defensas en capas

    Por qué ninguna defensa contra la inyección basta sola y cómo combinar separación de datos, seguimiento de contenido contaminado, confirmación, filtrado de salida y detección, con el OWASP Top 10 LLM como control.

  • Inyección directa e indirecta

    Qué distingue la inyección directa de la indirecta, por dónde llega cada una a un agente, cómo se exfiltran datos y cómo montar una batería de ataques reproducible.

  • Seguridad y aislamiento

    Cómo aislar un agente de uso del ordenador o del navegador. Contenedor desechable, red restringida, sin credenciales reales, defensa ante inyección en páginas y aprobación humana.

  • Seguridad y prompt injection

    Monográfico avanzado para proteger agentes que leen contenido no fiable y actúan sobre sistemas reales, desde el modelo de amenazas hasta permisos, confirmación y sandbox.

Docs

1

  • Prompt injection

    Qué es la inyección de prompt directa e indirecta, por qué un agente con herramientas es vulnerable y qué defensas en capas reducen el daño.

Disciplinas

1

  • Seguridad de agentes

    Diseñar agentes que sigan siendo seguros aunque el modelo se equivoque o alguien intente manipularlo con instrucciones escondidas en los datos.