Discriminación laboral en el uso de inteligencia artificial

El mundo digital cada vez muestra que estamos dentro de una cuarta revolución industrial, esto en gran medida por la creación de algoritmos digitales.

Un algoritmo, según el Diccionario de la Real Academia Española (DRAE), se define como un conjunto ordenado y finito de operaciones que permite hallar la solución de un problema; es decir, una secuencia de instrucciones para llegar a realizar una tarea.

La inteligencia artificia (IA)l, el big data, los chatbots, el game-based learning, pronostican que la tecnología estará cada vez más presente en la gestión, la toma de decisiones y la formación de trabajadores.

Lo anterior se ha convertido en un problema, ya que está creando la sustitución de un jefe por una computadora, sin que exista una regulación al respecto.

Por ello, la Universidad de Málaga en España, celebró el 17 de septiembre, el primer “I Seminario internacional sobre género y colectivos desfavorecidos: discriminación en el empleo, el uso de algoritmos artificiales y la inteligencia artificial”, ante la urgencia de crear un marco jurídico que dé mayor protección a los subordinados, y en particular hacia las mujeres, por ser parte de un grupo vulnerable.

En este seminario, se abordó que en donde ve mejor reflejado el uso de apps en el ámbito laboral es con los empleados independientes tales como mensajeros, repartidores de comida, o chóferes, donde es un software quien les indica cómo hacer su trabajo (dónde repartir o conducir, cuánto tiempo cuentan para ejecutar el trabajo) y además se califica su servicio. A ello se le suma que la mayoría de las personas que laboran bajo estas aplicaciones no cuentan con los derechos laborales ni de seguridad social.

Además, que existen empresas en donde cada colaborador lleva un dispositivo fijo que le señala cuánto tiempo ha trabajado y por donde tiene que ir dentro del almacén, con lo cual ha sustituido a sus supervisores y personal de recursos humanos por inteligencia artificial, quien es la que determina si un trabajador ha dejado de ser útil o no y en su caso si debe ser despedido.

Asimismo, la especialista Pilar Rivas Vallejo, explicó que el uso de la IA en el mundo laboral se utiliza para:

• reclutamiento y selección: automatizando la calificación y evaluando las demandas de desempeño; ello a través de algoritmos que sugieren perfiles de candidatos, según las selecciones anteriores
• evaluación de habilidades y competencias: se revisa productividad y rendimiento al momento del despido, de forma automatizada
• gestión de procesos de trabajo y conductas: se toman en cuenta la relevancia de opiniones de clientes, cálculos de procesos y tiempos, evaluación de tareas y
• toma de decisiones automatizadas por la IA: contratación, extinción del vínculo laboral por ineptitud

Esto puede generar varias problemáticas, entre otras: se discrimine a las mujeres al momento de contratar, ya que, si el sistema retoma criterios discriminatorios, al utilizarse va a dar esos resultados, y una falta de explicación por la toma de decisiones automatizadas, pues existe una opacidad en el uso de esta tecnología, provocando un sesgo oculto.

Si bien en nuestro país, esto parece lejano, es oportuno comentar que la empresa mexicana desarrolladora de software VenturesSoft® , señaló el 28 de septiembre de 2021, que la atracción y selección de personal se encuentra en evolución y que la IA tiene aplicaciones nunca antes imaginadas en el sector laboral, “que incluyen tareas repetitivas y que emplean grandes cantidades de datos”. Igualmente manifestaron que existen herramientas que facilitan lecturas rápidas de los currículos y documentación proporcionada por el candidato. Por ejemplo:

• machine learning: crea sistemas que aprenden automáticamente a través de la identificación de patrones complejos en miles y millones de datos
• deep learning: presenta un modelo que evalúe ejemplos y una cantidad pequeña de instrucciones que aplicar cuando surja un error
• text mining: es un sistema que busca palabras clave o conceptos relacionados con ciertos parámetros previamente establecidos
• entity recognition: algoritmo que extrae información y la clasifica en categorías predefinidas, como lugares, fechas o personas

Como se observa, el reclutamiento a través de la IA es una realidad, por lo que los empresarios deberán tener cuidado en que los criterios para seleccionar a los trabajadores no sean discriminatorios.