La inteligencia artificial (IA) ha desencadenado una serie de avances en múltiples ramas en tiempos recientes. No obstante, en ciertos casos, y principalmente debido a problemas vinculados con la información usada en la base de datos de entrenamiento del software, su empleo puede generar fallas. Ese es el supuesto de Amazon que empleada esta como una herramienta para el reclutamiento laboral.
LEE: INTELIGENCIA ARTIFICIAL PREDICE PROBLEMAS MENTALES
Los sistemas de IA ofrecen ventajas considerables para la selección de candidatos con mayor eficiencia, pero con Amazon los resultados presentaban sesgos en contra de las mujeres. Por ejemplo, en el reclutamiento de candidatos para desarrollo de software y demás áreas técnicas, el sistema no aplicaba principios de igualdad y meritocracia y discriminaba a las mujeres.
Que una situación semejante se presente en una empresa como Amazon que suele caracterizarse por ser un referente en automatización y uso de herramientas de aprendizaje automático, pareciera inexplicable; sin embargo, no lo es porque dicho sesgo se debe a cómo ha funcionado el reclutamiento de la compañía en los últimos 10 años.
La IA es alimentada de datos para producir modelos y encontrar similitudes positivas. Si el sistema de captación de empleados en tiempos recientes generaba contrataciones masculinas en su mayoría, y es esa información se incorpora a la herramienta sin indicación alguna si eso es correcto o no, o que debe ponderarse la igualdad de oportunidades; el software interpreta que lo añadido es lo positivo y en consecuencia actuará en esa línea.
La introducción de la palabra “women” en el CV conllevaba un agravio. Pese a que la empresa consideró esto como algo negativo y buscó modificar ese comportamiento para que la IA fuera más neutral, el proyecto se desechó cuando se percataron que no había certeza de que siguiera existiendo algún otro tipo de sesgo.
Por ello al diseñar estas herramientas las empresas no deben buscar únicamente la productividad, tienen que incluir modelos positivos que tiendan más a la centralidad.
