Qué son las prácticas de IA prohibidas

Definición amplia

El artículo 5 del Reglamento de IA (Reglamento (UE) 2024/1689) enumera los usos de la IA que no se permiten en la Unión. La prohibición alcanza a quien introduce el sistema en el mercado, a quien lo pone en servicio y a quien lo utiliza, de modo que afecta también a la empresa que se limita a usarlo.

La lista

• Manipulación y engaño: técnicas subliminales o deliberadamente manipuladoras o engañosas que alteran de forma sustancial el comportamiento y causan, o pueden razonablemente causar, perjuicios considerables.
• Explotación de vulnerabilidades por edad, discapacidad o situación social o económica, con el mismo efecto.
• Puntuación social que lleva a un trato perjudicial en contextos ajenos a los datos, o injustificado o desproporcionado.
• Predicción de delitos basada únicamente en perfiles o rasgos de personalidad.
• Bases de reconocimiento facial creadas o ampliadas con la extracción no selectiva de imágenes de internet o de cámaras de vigilancia.
• Reconocimiento de emociones en el trabajo y en centros educativos, salvo por motivos médicos o de seguridad.
• Categorización biométrica para deducir raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, vida sexual u orientación sexual.
• Identificación biométrica remota en tiempo real en espacios públicos con fines policiales, salvo excepciones tasadas.
• Contenido sexual sin consentimiento y abuso sexual infantil: sistemas que generan o manipulan imágenes, vídeos o audios realistas de las partes íntimas de una persona identificable, o de esa persona en actividades sexualmente explícitas, sin su consentimiento explícito, o material de abuso sexual infantil. Las añadió el Reglamento (UE) 2026/1744.

Las prohibiciones se aplican desde el 2 de febrero de 2025, y las añadidas en 2026 se aplicarán a partir del 2 de diciembre de 2026 (artículo 113, en la redacción dada por el Reglamento (UE) 2026/1744). Su incumplimiento tiene las multas más altas del Reglamento: hasta 35 millones de euros o, si el infractor es una empresa, hasta el 7 % de su volumen de negocios mundial del ejercicio anterior, si esta cifra es superior (artículo 99.3). En las pymes, incluidas las empresas emergentes, se aplica la menor de las dos (artículo 99.6).

Qué supone para la empresa

Aunque la empresa no desarrolle estos sistemas, alguno puede llegar como función de una herramienta comprada, por ejemplo un análisis del estado de ánimo de la plantilla a partir de su imagen o su voz durante el trabajo. Por eso conviene revisar las funciones reales de cada herramienta, no solo su nombre comercial. Cada letra del artículo tiene condiciones y excepciones que hay que leer completas antes de concluir si un uso está prohibido.

Ejemplos de uso

• Recursos humanos y talento

  En recursos humanos, impide usar herramientas que infieran las emociones de los empleados a partir de su voz o su imagen, salvo por motivos médicos o de seguridad.

• Marketing

  En marketing, descarta técnicas que exploten la edad, la discapacidad o la situación económica de una persona para alterar su comportamiento con perjuicio considerable.

• Atención al cliente

  En atención al cliente, el reconocimiento de emociones de los clientes no está en el artículo 5, aunque figura en el anexo III como de alto riesgo; el de los propios agentes del centro de atención sí está prohibido.

• Dirección y estrategia

  En dirección, al revisar los sistemas de IA en uso se comprueba que ninguno encaja en el artículo 5.

Términos relacionados

• Ley de IA
• Sistema de IA de alto riesgo
• Sesgo algorítmico
• Gobierno de la IA

Fuentes

• Reglamento (UE) 2024/1689, arts. 3.39, 5, 99.3, 99.6 y 113, y anexo III, punto 1.c (DOUE en el BOE, DOUE-L-2024-81079)
• Reglamento (UE) 2026/1744 (Ómnibus digital sobre IA), art. 1, puntos 7 y 40 (DOUE en el BOE, DOUE-L-2026-81147)