La tecnología aumenta su presencia constantemente y la inteligencia artificial hoy se posiciona como una fuerte herramienta para la elaboración de diversas tareas, una de ellas es el reclutamiento, no obstante, puede contener sesgos informativos que podrían alimentar los prejuicios de género y raza, advirtió Chris Hyams de Indeed.
“Las oleadas de innovación tecnológica (y disrupción) se han acelerado con el tiempo. Si bien los efectos de la Revolución Industrial se aceleraron gradualmente a lo largo de muchas generaciones, las industrias de viajes, comercio minorista y música fueron trastocadas por Internet en una década. Con la IA, es posible que los estudiantes ahora se encuentren aprendiendo en la universidad habilidades que quedarán obsoletas cuando se gradúen”, destacó.
En ese sentido, aclaró que la disrupción no siempre se trata de un concepto puramente positivo, si bien los consumidores se benefician de la conveniencia y el costo, y con el tiempo se crean más empleos, la consecuencia inmediata es alterar las vidas de otros actores de las industrias.
En ese sentido, destacó la preocupación por los prejuicios, explicó que la IA funciona con datos, los datos provienen de humanos y los humanos tienen fallas. Esto es especialmente cierto en el ámbito laboral: en un conocido estudio de 2003, los nombres que parecían negros recibieron un 50% menos de llamadas para entrevistas que los nombres que parecían blancos con currículums idénticos. Cuando los modelos de IA se construyen a partir de datos con sesgos incorporados, los modelos resultantes replican y amplían ese sesgo.
Discriminación propiciada por la IA
Un estudio reciente representó gráficamente este fenómeno. Cuando se le pidió a la IA generativa que creara imágenes relacionadas con puestos de trabajo y delitos, ésta amplificó los estereotipos sobre raza y género.
Los estadounidenses blancos representan el 70% de los trabajadores de la comida rápida, pero el 70% de los resultados de las imágenes mostraban a trabajadores con tonos de piel más oscuros. Las mujeres representan el 39% de los médicos, pero sólo el 7% de los resultados de imagen.
A lo largo del estudio, los roles mejor pagados estuvieron representados principalmente por trabajadores percibidos como hombres y aquellos con piel más clara, mientras que los trabajos peor pagados estuvieron dominados por trabajadoras percibidas y aquellos con piel más oscura. Las imágenes generadas para “recluso”, “narcotraficante” y “terrorista” también amplificaron los estereotipos.
¿Cómo ha ayudado la IA a los procesos?
Hyams indicó que los avances recientes en IA han sido impresionantes. Tan solo en los últimos años, hemos visto a agricultores usar la IA para combatir plagas y enfermedades y un implante cerebral impulsado por la IA que ayudó a un hombre paralítico a caminar usando sus pensamientos. La herramienta favorita de la IA, Chat GPT, ha establecido nuevos puntos de referencia para las máquinas en hazañas de la supuesta inteligencia humana, obteniendo una puntuación en el percentil ~90 en diversos exámenes, y una puntuación de 4 o 5 en 13 exámenes distintos, e incluso dominar la teoría del sommelier avanzado.
La IA también ayuda a las personas a conseguir empleo. 350 millones de personas que buscan empleo visitan Indeed cada mes, y la IA impulsa sus conexiones simples y rápidas a 30 millones de empleos. Gracias a la IA, cada tres segundos contratan a alguien en Indeed.
A pesar de la asombrosa innovación que nos rodea, la IA todavía está en la infancia. Si esperamos seguir beneficiándonos de la promesa de la IA, debemos dedicar mucho tiempo y energía a abordar los riesgos.
“Para construir sistemas de IA verdaderamente responsables, necesitamos cambiar fundamentalmente la forma en que los construimos. Para empezar, debemos preparar a la generación actual y a la próxima de trabajadores tecnológicos para las profundas implicaciones de la tecnología y su impacto en la vida de las personas. Además de estadística y álgebra lineal, se debería exigir a los tecnólogos que estudien historia, filosofía, ética y literatura. Un código de ética formal para los profesionales de la IA, como una adaptación del juramento Hipocrático del médico, sería un punto de partida importante”, concluyó.
