- Inicio
- Glosario de IA
- Gobierno, normativa y privacidad
- Sistema de IA de alto riesgo
Qué es un sistema de IA de alto riesgo
También se dice IA de alto riesgo, high-risk AI system o alto riesgo.
En dos frases
Sistema de IA que el Reglamento europeo de IA somete a sus requisitos más estrictos, porque forma parte de productos regulados o porque se usa en ámbitos sensibles como el empleo, la educación o el crédito.
- Nivel
- Decisión de dirección
- Actualizado
Definición amplia
El Reglamento de IA (Reglamento (UE) 2024/1689) no prohíbe estos sistemas, pero los somete a sus exigencias más estrictas por el daño que pueden causar a la salud, la seguridad o los derechos fundamentales. Su artículo 6 establece dos vías para que un sistema sea de alto riesgo:
- Productos regulados (anexo I): la IA que es componente de seguridad de un producto sujeto a normas europeas, como las de juguetes o productos sanitarios, o que es el propio producto, cuando este debe pasar una evaluación de la conformidad por un tercero.
- Usos del anexo III: biometría, infraestructuras críticas, educación, empleo y gestión de trabajadores, acceso a servicios esenciales (como la solvencia crediticia o los seguros de vida y de salud), garantía del cumplimiento del Derecho, migración, asilo y control fronterizo, y administración de justicia y procesos democráticos.
Hay una excepción: un sistema del anexo III no se considera de alto riesgo si no plantea un riesgo importante, por ejemplo cuando realiza una tarea de procedimiento limitada o una tarea preparatoria de una evaluación. La excepción no vale si el sistema elabora perfiles de personas, y el proveedor debe documentar su análisis y registrar el sistema (artículos 6.3, 6.4 y 49.2).
Qué exige
Al proveedor, entre otras cosas, un sistema de gestión de riesgos, datos de calidad, documentación técnica, registro automático de eventos, transparencia hacia quien lo usa, supervisión humana, precisión, solidez y ciberseguridad (artículos 9 a 15), además de una evaluación de la conformidad y el marcado CE (artículo 16). A la empresa que lo usa, el responsable del despliegue, le pide seguir las instrucciones, encargar la supervisión humana a personas preparadas, vigilar su funcionamiento, conservar los registros e informar a los trabajadores y a las personas afectadas (artículo 26).
La clasificación depende de la finalidad prevista, no de la tecnología: el anexo III se refiere a sistemas «destinados a ser utilizados» para cada fin. Un mismo sistema basado en un modelo de lenguaje no es de alto riesgo cuando redacta correos y puede serlo si se destina a filtrar candidaturas; quien le cambia así la finalidad pasa a ser su proveedor (artículo 25.1.c).
Desde cuándo
Tras la modificación del Reglamento (UE) 2026/1744, estas obligaciones se aplicarán a partir del 2 de diciembre de 2027 para los sistemas del anexo III y del 2 de agosto de 2028 para los del anexo I (artículo 113). Los sistemas introducidos en el mercado o puestos en servicio antes de esas fechas solo quedan sujetos si después sufren cambios significativos en su diseño, salvo los destinados a autoridades públicas, que deben cumplir a más tardar el 2 de agosto de 2030 (artículo 111.2).
Ejemplos de uso
Recursos humanos y talento
En recursos humanos, están en el anexo III los sistemas que filtran candidaturas, evalúan candidatos o intervienen en ascensos y despidos.
Administración y finanzas
En finanzas, lo son los sistemas que evalúan la solvencia de personas físicas o fijan su calificación crediticia, salvo los de detección de fraude.
Comercial y ventas
En la venta de seguros, entra en la lista la evaluación de riesgos y la fijación de precios con IA en seguros de vida y de salud de personas físicas.
Dirección y estrategia
En dirección, antes de comprar un sistema se comprueba si su finalidad prevista lo sitúa en el anexo III.
Términos relacionados
Fuentes
Del término a aplicarlo en tu empresa.
Lo que explica este glosario se trabaja en los programas de Kynetik, área por área.