Guardrails
Controles alrededor del modelo que validan entradas, salidas y acciones para impedir comportamientos no deseados.
También: barreras de seguridad · salvaguardas · guardarraíles
GlosarioLos guardrails son comprobaciones que pones antes, después o alrededor de cada llamada al modelo para bloquear lo que no debe pasar: entradas maliciosas, salidas con datos sensibles, formato inválido o acciones fuera de lo permitido. Viven en tu código, no dentro del modelo, y por eso puedes probarlos y confiar en ellos.
En la práctica
Los más útiles son deterministas: validar el JSON contra un esquema, rechazar URLs fuera de una lista permitida, limitar importes, exigir aprobación para herramientas con efectos. Un clasificador (otro modelo o una regla) puede filtrar temas fuera de alcance o detectar intentos de Inyección de prompt, pero no es infalible. Combina varias capas y aplica Mínimo privilegio: lo que una herramienta no puede hacer, no hay que vigilarlo.
No confundir con
- Instrucciones en el Prompt de sistema: orientan al modelo, pero un atacante puede saltárselas. Un guardrail se aplica aunque el modelo se equivoque.