Qué es el sesgo algorítmico

También se dice sesgo de la IA, sesgo en los algoritmos, AI bias o discriminación algorítmica.

En dos frases

Desviación sistemática en los resultados de un algoritmo o sistema de IA que perjudica o favorece injustamente a personas o grupos. Puede venir de los datos, del diseño del sistema o de cómo se usan sus resultados.

Bloque: Gobierno, normativa y privacidad
Nivel: Básico
Actualizado: 5 nov 2026

Definición amplia

En un documento de 2020 que mantiene marcado como «en revisión», la AEPD define el sesgo como una desviación inadecuada en el proceso de inferencia de un sistema, y lo considera especialmente grave cuando da lugar a discriminación. Un sistema sesgado no falla al azar: se equivoca más, o de forma distinta, con unos grupos que con otros. No es un problema exclusivo de la IA, pero la IA puede reproducirlo a gran escala y con apariencia de objetividad.

Tipos de sesgo

El NIST, el organismo de normalización de Estados Unidos, distingue tres categorías:

Sistémicos: proceden de prácticas e instituciones que han favorecido o perjudicado a ciertos grupos y que quedan reflejadas en los datos.
Estadísticos y computacionales: surgen cuando la muestra no representa a la población, y pueden darse sin ninguna intención discriminatoria.
Humanos: errores sistemáticos de quienes diseñan, etiquetan o usan el sistema, incluida la forma de interpretar sus resultados.

Ese mismo documento subraya este último: aceptar sin espíritu crítico lo que dice una IA, como si fuera cierto e inamovible. En su nota de octubre de 2026, la AEPD advierte además de que no basta con afirmar que una herramienta no usa atributos sensibles, porque otras variables pueden permitir inferirlos o actuar como sustitutas. El código postal o la trayectoria laboral pueden reflejar, de forma indirecta, el origen o el sexo.

Qué dice la normativa

Cuando se apliquen sus normas sobre alto riesgo, el Reglamento de IA exigirá que los datos de entrenamiento, validación y prueba de esos sistemas se examinen atendiendo a posibles sesgos que puedan afectar a la salud, la seguridad o los derechos fundamentales, o causar discriminación, y que se adopten medidas para detectarlos, prevenirlos y mitigarlos (art. 10.2.f y g). Para detectarlos y corregirlos, el art. 4 bis, introducido por el Reglamento (UE) 2026/1744, permite de forma excepcional tratar categorías especiales de datos personales cuando sea estrictamente necesario y con las condiciones y garantías que enumera; en ciertos casos se extiende a otros sistemas y modelos de IA, sin obligar a hacerlo. En España, la Ley 15/2022 de igualdad de trato pide a las administraciones favorecer mecanismos para que sus algoritmos tengan en cuenta la minimización de sesgos y que administraciones y empresas promuevan una IA ética y respetuosa con los derechos fundamentales (art. 23).

En la empresa, el sesgo se mide comparando los resultados del sistema entre grupos, y se vigila de forma continua, porque los datos y el uso cambian.

Ejemplos de uso

Recursos humanos y talento
En recursos humanos, es el riesgo de que un modelo de selección aprenda de contrataciones pasadas a descartar perfiles por motivos que nada tienen que ver con el puesto.
Administración y finanzas
En finanzas, se revisa en los modelos de riesgo de impago para comprobar que no penalizan a un colectivo a través de variables indirectas.
Marketing
En marketing, aparece cuando un sistema de segmentación deja fuera de una oferta a grupos de clientes sin una razón de negocio.
Atención al cliente
En atención al cliente, se comprueba si un sistema de reconocimiento de voz entiende peor a personas con determinados acentos.
Datos y analítica
En analítica, se mide comparando las tasas de error y de aciertos del modelo entre distintos grupos de población.

Términos relacionados

Fuentes

Del término a aplicarlo en tu empresa.

Lo que explica este glosario se trabaja en los programas de Kynetik, área por área.

Ver los programas