Qué son los guardrails de la IA
También se dice barreras de seguridad, salvaguardas de la IA o AI guardrails.
En dos frases
Controles que mantienen un sistema de IA dentro de unos límites definidos: filtros que revisan lo que entra y lo que sale del modelo, reglas de uso y permisos que impiden respuestas o acciones no deseadas.
- Nivel
- Técnico
- Actualizado
Definición amplia
IBM define los guardrails como las salvaguardas que mantienen los sistemas de IA funcionando de forma segura, responsable y dentro de unos límites definidos. Incluyen políticas, controles técnicos y mecanismos de vigilancia que gobiernan cómo genera sus respuestas un modelo cuando se usa en situaciones reales.
Dónde se ponen
- En los datos: limpiar los datos de entrenamiento, retirar información sensible y reducir sesgos.
- En el modelo: ajuste, validación y seguimiento de métricas como la toxicidad, la exactitud o la robustez.
- En la aplicación: filtros que bloquean contenido dañino, detectan datos personales o intentos de jailbreak, y reglas que limitan qué puede hacer la herramienta dentro de un proceso.
- En la infraestructura: control de accesos, cifrado, registros y vigilancia.
Lo más visible son los clasificadores que revisan cada petición y cada respuesta. Si detectan un problema, bloquean el texto o lo sustituyen por un aviso. El umbral se ajusta: uno estricto detecta más riesgos, pero también bloquea contenido legítimo; uno más laxo genera menos falsas alarmas y deja pasar más. OWASP añade otra barrera que no depende del modelo: darle solo los permisos mínimos y exigir la confirmación de una persona antes de cualquier acción privilegiada o irreversible.
Límites
Ninguna barrera es infalible. IBM advierte de que los modelos pueden comportarse de forma imprevista, de que las técnicas de ataque cambian deprisa y de que filtrar en tiempo real añade latencia. También recuerda que, aunque el proveedor incluya sus propias salvaguardas, la responsabilidad última del gobierno de la IA sigue siendo de la empresa que la usa. Por eso los guardrails se combinan con revisión humana en lo delicado y con pruebas periódicas de ataque.
Ejemplos de uso
Atención al cliente
En atención al cliente, se configuran para que el asistente no trate temas ajenos al servicio ni ofrezca condiciones que no existen.
Recursos humanos y talento
En recursos humanos, filtran los datos personales de la plantilla antes de que lleguen al modelo.
Marketing
En marketing, revisan que los textos e imágenes generados no incluyan contenido ofensivo asociado a la marca.
Administración y finanzas
En finanzas, limitan qué operaciones puede ejecutar un agente sin la aprobación de una persona.
Términos relacionados
Fuentes
Del término a aplicarlo en tu empresa.
Lo que explica este glosario se trabaja en los programas de Kynetik, área por área.