Universidad de Navarra expone sesgos ocultos de la IA en selección laboral

Los algoritmos de inteligencia artificial han comenzado a actuar como guardianes silenciosos en las puertas de las empresas, decidiendo quién entra, quién asciende, quién se queda. Pero un nuevo informe de la Universidad de Navarra advierte que este poder invisible está generando un problema más profundo de lo que se pensaba: los sesgos no desaparecen solo porque eliminemos del sistema las variables obvias como el género o la discapacidad. Los algoritmos encuentran otras rutas, otras variables asociadas, para replicar las mismas desigualdades estructurales que la tecnología supuestamente vendría a resolver.

El Instituto de Ciencia de los Datos e Inteligencia Artificial de la Universidad de Navarra, conocido como DATAI, ha elaborado un Libro Blanco que propone las bases para crear un estándar de certificación ética en los sistemas de IA aplicados a Recursos Humanos. La investigación se basa en casos empíricos en siete empresas que ya utilizan algoritmos para gestionar a sus personas. El proyecto, llamado IA+Igual, responde directamente a las recomendaciones de la Unión Europea sobre el uso responsable de la IA en sectores de alto riesgo, y está financiado con fondos Next Generation de la UE.

La investigación identifica cuatro desafíos inmediatos que requieren atención urgente. El primero es la persistencia de lo que los investigadores llaman sesgos invisibles. José Luis Poveda Marina, uno de los investigadores del proyecto, explica que los algoritmos replican las desigualdades estructurales a través de variables asociadas, afectando especialmente a colectivos vulnerables y comprometiendo la equidad en el acceso al empleo. No es suficiente, en otras palabras, con no preguntar por el género o la discapacidad. El sistema encuentra la forma de discriminar de todas formas.

El segundo desafío es el vacío de auditoría en Recursos Humanos. El informe critica la falta de estándares que permitan evaluar de forma rigurosa la equidad, legalidad y transparencia de estos sistemas. Sin un marco de revisión claro, es imposible asegurar que los algoritmos cumplen con la normativa vigente. Las empresas pueden estar usando estas herramientas sin que nadie las esté realmente vigilando.

El tercero es el vacío legal que genera la IA generativa. Modelos como ChatGPT y sus variantes tienen la capacidad de modificar su comportamiento de formas que no siempre son predecibles o trazables. Esto plantea dudas serias sobre quién es responsable cuando el sistema comete un error discriminatorio. ¿La empresa que lo implementó? ¿El proveedor del software? ¿El desarrollador del modelo base? La ley aún no lo ha resuelto.

El cuarto desafío es paradójico: las restricciones legales actuales sobre el tratamiento de datos sensibles, diseñadas para proteger la privacidad, tienen un efecto no deseado. Dificultan el análisis de desigualdades estructurales. Si no puedes recopilar datos sobre género, raza o discapacidad, tampoco puedes medir si tu algoritmo está discriminando contra esos grupos. Esta limitación obstaculiza la corrección de sesgos históricos y perpetúa situaciones de exclusión laboral.

Marisa Cruzado, coordinadora del proyecto, subraya que este es un reto multidisciplinar y crucial para el futuro del trabajo. "Si queremos una inteligencia artificial que potencie el talento y fortalezca nuestros valores europeos de equidad, debemos actuar ahora con visión estratégica y ética", dice. Poveda Marina añade que la meta es construir una inteligencia artificial que no solo sea técnicamente avanzada, sino también comprensible, equitativa y socialmente responsable.

El Libro Blanco de DATAI propone las bases para un estándar de certificación ética que podría convertirse en un modelo para toda Europa. Es una iniciativa pionera en el continente, un intento de transformar la tecnología en una herramienta de desarrollo justo y sostenible en el entorno empresarial. Pero el tiempo es esencial. Mientras se debate sobre regulaciones y estándares, miles de personas están siendo evaluadas, rechazadas o promocionadas por sistemas cuyo funcionamiento real nadie está realmente supervisando.