El proyecto IA+Igual incorpora al Instituto de Ciencias de los Datos e IA (DATAI por su sigla en inglés) de la Universidad de Navarra como partner académico. El acuerdo firmado por ambas entidades establece que el equipo de investigadores designado por DATAI trabajará en colaboración con el equipo auditor y el Consejo Asesor de IA+Igual para elaborar un Libro Blanco.
Madrid, 12 de febrero. El Libro Blanco es un documento académico, realizado de forma empírica, que servirá como recomendación para el desarrollo de un modelo de certificación de algoritmos de herramientas de IA aplicadas a procesos de recursos humanos y al mercado laboral. El objetivo es detectar y mitigar los sesgos para garantizar un uso ético y confiable de esta tecnología en un ámbito, el del empleo, calificado como de alto riesgo por la UE.
IA+Igual, liderado por Marisa Cruzado, CEO de CVA, colaborará con el equipo de DATAI, que incluye investigadores expertos en equidad algorítmica -Rubén Armañanzas- y ética de la IA -Alejo Sisón e Ignacio Ferrero- y que dirige Jesús López-Fidalgo. “En línea con nuestro trabajo de investigación aplicada, vamos a colaborar con los ingenieros de IN2 y los miembros del Consejo Asesor de IA+Igual para conseguir que el modelo de certificación de los algoritmos de IA en RR. HH garantice una digitalización ética, justa y confiable”, explica Jesús López-Fidalgo.
Auditoría empírica
IA+Igual ya ha empezado el trabajo de análisis empírico de algoritmos que se están utilizando en herramientas aplicadas a recursos humanos, con el objetivo de definir un modelo de auditoría que garantice el uso eficiente de la IA en este ámbito. “Cuando se trata de procesos que afectan a la vida y carrera de las personas es crítico cumplir con los criterios de transparencia, explicabilidad y privacidad que garantizan el cumplimiento de la norma laboral y de la igualdad de oportunidades”, explica Marisa Cruzado, CEO promotora de IA+Igual. “Hemos iniciado ya el trabajo de auditoría para ver qué está pasando. Este análisis empírico, en un proyecto tan innovador como el que estamos llevando a cabo desde IA+Igual, nos está abriendo las puertas a un mundo en transformación en el que, además de la ética, la transparencia y la confiabilidad, influyen otros parámetros como el normativo o el reputacional. Por eso, -concluye Cruzado-, trabajamos con un grupo multidisciplinar de expertos que aportan su conocimiento desde diferentes ámbitos, para que nada se nos pueda escapar”.
La estrecha colaboración entre arquitectos e ingenieros de datos, desarrolladores, empresas usuarias y miembros del Consejo Asesor de IA+Igual es una propuesta pionera en Europa. Esta visión multidisciplinar se asocia ahora al potencial científico y académico de DATAI. “El proyecto culminará con la elaboración de un Libro Blanco con recomendaciones para un modelo de certificación, y la propuesta de un sello de calidad específico para el ámbito laboral. Con este innovador proyecto, queremos contribuir a fortalecer la marca empleadora de las empresas y, por tanto, atraer el mejor talento -incluyendo a los colectivos más vulnerables- y generar confianza y motivación entre los profesionales y la sociedad”, concluye Marisa Cruzado.
