Qué son las barreras de seguridad

Los guardrails son comprobaciones programáticas que rodean a un LLM para aplicar seguridad, políticas y calidad. Se ejecutan en la entrada (la entrada del usuario) y en la salida (la salida del modelo), y controlan qué llega al modelo y qué llega al usuario.

El modelo es probabilístico; los guardrails son una aplicación determinista de políticas superpuesta al modelo.

Las instrucciones del prompt del sistema, como 'no revele nunca secretos', son blandas: los jailbreaks pueden anularlas, pueden perder fuerza en contextos largos o ignorarse ante un cambio de distribución. Los guardrails son estrictos porque son código externo al modelo con el que no se puede negociar.

Defensa en profundidad: indique al modelo qué debe hacer y rodéelo de comprobaciones independientes.

Dos ubicaciones con funciones diferentes:

• Los guardrails de entrada bloquean la inyección de prompts, las solicitudes no permitidas y la PII antes de que los tokens generen costes.
• Los guardrails de salida detectan contenido inseguro, datos filtrados, alucinaciones e incumplimientos del esquema antes de la entrega.

Las comprobaciones de entrada ahorran costes; las de salida protegen a los usuarios.

Un guardrail debe decidir qué acción tomar cuando se activa:

• Bloquear — rechazar la solicitud y devolver un mensaje seguro.
• Redactar — eliminar el fragmento problemático y continuar.
• Regenerar — volver a solicitar la respuesta indicando la infracción.
• Escalar — derivar el caso a una persona o a un modelo más estricto.

La acción adecuada depende de la gravedad y de la confianza del usuario.

Componga los guardrails como una canalización ordenada y falle rápidamente ante la primera infracción grave.

Dos estilos de implementación:

• Deterministas — expresiones regulares, esquemas, listas de permitidos o denegados y clasificadores con umbrales fijos. Son rápidos, económicos y auditables.
• Basados en modelos — un modelo de moderación o un LLM evaluador analiza políticas matizadas. Son flexibles, pero más lentos y falibles.

Use guardrails deterministas para reglas estrictas y guardrails basados en modelos para decisiones que requieren criterio.

Cada guardrail añade latencia. Estrategias para mantener la rapidez:

• Ejecute los guardrails de salida independientes en paralelo.
• Ordene las comprobaciones deterministas económicas antes que las comprobaciones costosas basadas en modelos.
• Interrumpa el procesamiento ante el primer bloqueo grave.
• Transmita la salida, pero retenga la entrega hasta que se superen los guardrails críticos.

Los guardrails demasiado agresivos bloquean solicitudes legítimas y frustran a los usuarios (el mensaje 'No puedo ayudarle con eso' ante consultas inofensivas). Ajuste los umbrales con un conjunto etiquetado y realice un seguimiento de la tasa de falsos positivos como una métrica fundamental, no solo de la exhaustividad frente a los ataques.

Si transmite los tokens al usuario, una infracción detectada tarde puede haber aparecido ya en pantalla. Algunas opciones:

• Almacenar la respuesta completa, aplicar los guardrails y después liberarla (es lo más seguro, pero aumenta la latencia).
• Aplicar los guardrails en los límites de las oraciones durante la transmisión.
• Transmitir de forma optimista, pero retirar o sustituir la salida si se detecta una infracción.

Elija según el daño que podría causar la filtración de una salida parcial.

Los guardrails son evidencias de cumplimiento. Registre cada veredicto con el hash de entrada, el identificador del guardrail, la gravedad y la acción tomada, teniendo cuidado de no registrar el contenido sensible. Este registro demuestra la aplicación de las políticas durante las auditorías y permite realizar ajustes.

Los guardrails reducen el riesgo, pero no lo eliminan. Un modelo sin acceso a un secreto no puede filtrarlo. Dé prioridad a los controles arquitectónicos (mínimo privilegio, herramientas con alcance limitado y ausencia de datos sensibles en el contexto) y use los guardrails como última capa, no como única defensa.

¿Qué ubicación de un guardrail reduce principalmente el gasto de tokens en solicitudes no permitidas?

Fundamentos de los guardrails:

• Políticas deterministas superpuestas a un modelo probabilístico.
• Los guardrails de entrada ahorran costes; los de salida protegen a los usuarios.
• Acciones: bloquear, redactar, regenerar y escalar.
• Combine comprobaciones deterministas y basadas en modelos, y ejecútelas en paralelo.
• Realice un seguimiento de los falsos positivos, registre los veredictos y dé prioridad a la arquitectura frente a los parches.

A continuación: filtrado de entradas y salidas en profundidad.