Qué es el shadow AI
También se dice IA en la sombra, IA no autorizada o uso no autorizado de IA.
En dos frases
Uso de herramientas o aplicaciones de IA por parte de empleados sin la aprobación ni la supervisión de la empresa, con riesgo de fuga de datos, incumplimiento normativo y resultados sin control.
- Nivel
- Decisión de dirección
- Actualizado
Definición amplia
El shadow AI, o IA en la sombra, es el uso no autorizado de cualquier herramienta o aplicación de inteligencia artificial por parte de empleados o usuarios, según la definición de IBM. Es una variante del shadow IT, el uso de cualquier tecnología no aprobada, centrada en herramientas, plataformas y usos de IA. Ocurre, por ejemplo, cuando alguien pega un contrato en un asistente con su cuenta personal para resumirlo.
Riesgos
- Fuga de datos: información de clientes, empleados o de la propia empresa que sale a servicios cuyas condiciones nadie ha revisado.
- Incumplimiento normativo: tratamientos de datos personales sin las garantías exigidas, con posibles sanciones.
- Resultados sin control: textos, cifras o decisiones que entran en los procesos sin revisión y pueden no ajustarse a los objetivos ni a los criterios éticos de la empresa.
- Daño reputacional si alguno de estos fallos sale a la luz.
Cómo se gestiona
Las medidas que propone IBM combinan control y alternativa: políticas de uso que definan qué sistemas se pueden usar y cómo tratar la información sensible; una lista de herramientas aprobadas y entornos de prueba; bloqueo de plataformas no autorizadas; formación en ética y cumplimiento; seguimiento del uso de aplicaciones, y colaboración entre sistemas, seguridad y las áreas de negocio.
Para la dirección, el shadow AI es también una señal: según IBM, los empleados pueden recurrir a herramientas no autorizadas cuando las soluciones existentes les resultan insuficientes o creen que las aprobadas son demasiado lentas. IBM reconoce además que quizá no sea posible eliminarlo del todo.
Ejemplos de uso
Recursos humanos y talento
En recursos humanos, es un riesgo cuando se pegan currículos o datos de la plantilla en asistentes no aprobados.
Comercial y ventas
En ventas, aparece cuando se resumen conversaciones con clientes en herramientas personales fuera del CRM.
Marketing
En marketing, surge al contratar por cuenta propia herramientas de generación de contenido sin revisión de sistemas.
Dirección y estrategia
En dirección, un inventario del shadow AI muestra qué herramientas conviene aprobar y cuáles bloquear.
Administración y finanzas
En finanzas, el riesgo es subir datos contables o contratos a servicios cuyas condiciones de uso nadie ha leído.
Términos relacionados
Fuentes
Del término a aplicarlo en tu empresa.
Lo que explica este glosario se trabaja en los programas de Kynetik, área por área.