¿Qué lección sacar del algoritmo sexista de Amazon?
Hace 3 años, Amazon realizó un experimento para automatizar la preselección por CV. La idea era desarrollar un algoritmo capaz de analizar 100 CV, puntuarlos sobre 5 estrellas y seleccionar los 5 candidatos con mayor probabilidad de éxito. Y resultó que no funcionaba.
Resuma este artículo con:
Si trabaja de cerca o de lejos en RRHH (y con mayor razón en reclutamiento), seguramente ha visto pasar la noticia…
⚠️ BREAKING NEWS ⚠️
Decenas y decenas de publicaciones de este tipo se han publicado desde el pasado fin de semana (sitios de noticias, LinkedIn…) para difundir la noticia…
#HistoriaCorta… ¿de qué se trata realmente?
Hace 3 años, Amazon realizó un experimento para automatizar la preselección por CV.
La idea: crear un algoritmo capaz de analizar 100 CV, puntuarlos sobre 5 estrellas y seleccionar los 5 mejores perfiles en términos de probabilidad de éxito en la empresa.
¡Y ahí… increíble!
Se descubre que no funciona.
Peor aún, el algoritmo descartaba casi sistemáticamente los CV de las mujeres.
#NoEsJusto #DenunciaATuAlgoritmo #LaIAEsElNuevoCerdo
Como profesional de RRHH, ¿qué lección sacar de este “experimento fallido”?
Un algoritmo no nace “Sexista”… se vuelve sexista.
Un algoritmo nunca es sesgado, sexista, racista o discriminatorio “por naturaleza”.
No es más que la formalización de un proceso parametrizado… por humanos.
En el caso de Amazon, la IA fue entrenada con los datos de los CV de personas que ya ocupaban puestos en la empresa.
Por lo tanto, reprodujo las decisiones tomadas por los equipos de RRHH durante varios años.
1 — Primero, la cuestión del CV
Al entrenar una IA con CV, solo se le proporciona:
– trayectorias académicas (diplomas, escuelas)
– trayectorias profesionales (puestos, duración, sectores)
2 — La naturaleza de la muestra
En aquel momento, Amazon contaba con más del 60% de hombres.
Una IA entrenada con una muestra mayoritariamente masculina aprende lógicamente reglas… masculinas.
3 — Los sesgos humanos del equipo de RRHH
Los humanos son falibles y están sujetos a numerosos sesgos.
El algoritmo no hizo más que modelar este sistema, y por tanto reproducir estos sesgos.
⚠️ Importante:
Si se aplicara la misma IA a los CV de otras empresas, probablemente se obtendrían algoritmos discriminatorios hacia:
– las mujeres
– los mayores de 45 años
– las personas con discapacidad
– las personas con nombres de consonancia extranjera
… y otros más.
¿Hay que acabar entonces con los algoritmos en el reclutamiento?
Prescindir del 50% del talento es un enorme problema.
Pero concluir que los algoritmos son “peligrosos” o “no están a punto” sería un error comparable a decir que hay que prohibir los coches porque un conductor ebrio tuvo un accidente…
¿El verdadero problema no será más bien… la selección por CV?
Todo el mundo coincide en que el CV no es un buen predictor de éxito en el puesto.
Sin embargo, prácticamente todas las empresas siguen utilizándolo como filtro principal.
Imagen: “¿Pero qué les pasa a ustedes?”
(https://media-exp1.licdn.com/dms/image/C4E12AQHyx6aj7tqWnA/article-inline_image-shrink_1000_1488/0/1539534799488)
Al utilizar datos débiles (CV), provenientes de una muestra masculina, y procesarlos con una IA… difícil esperar algo diferente a sesgos.
Además, incluso en grandes empresas que cuentan con Data Scientists, RRHH sigue siendo a menudo el “pariente pobre”: muchos recursos para marketing, negocio… pero rara vez para RRHH.
Sin embargo, hoy en día, cualquier empresa puede hacer una preselección realmente mejor.
Comparemos:
Por un lado:
el CV
(trayectoria académica y profesional)
Por otro:
quién es realmente la persona
(agilidad intelectual, capacidad de aprendizaje, motivaciones, personalidad, comportamientos laborales)
¿Cuál de estas dos categorías predice realmente el rendimiento, la integración, la adecuación cultural?
Puede automatizar su preselección… sin reproducir el efecto “Amazon”
Utilizar tests de selección no es suficiente.
Hay que asociarlos a un modelo predictivo, es decir, la definición de:
– los criterios esperados
– y su relación con el rendimiento en el puesto
¿Cómo se crea un modelo predictivo?
Etapa 1:
Evaluar a los colaboradores en su puesto con cuestionarios de:
– personalidad
– motivaciones
– razonamiento
Etapa 2:
Evaluar su nivel de rendimiento según el criterio que se busca predecir.
“¡No lo sabemos, no tenemos los datos!”
⚠️ Si una empresa no sabe evaluar el rendimiento, ninguna herramienta podrá mejorar la calidad de sus reclutamientos.
Podrá mejorar la experiencia del candidato, extraer estadísticas… pero nunca predecir el éxito.
Si un “experto” pretende ayudarle sin pedir estos datos, huya.
“¿Y si mi empresa históricamente ha reclutado sobre todo hombres?”
Ningún riesgo de reproducir un sesgo “a lo Amazon”.
Los criterios psicológicos y comportamentales están muy bien repartidos en la población, independientemente del género, la edad o el origen.
Los resultados del reclutamiento predictivo
En promedio, las empresas que utilizan el reclutamiento predictivo:
– seleccionan colaboradores un 20% más eficientes
– aceleran sus procesos en un 30%
– reducen sus costes en aproximadamente un 20%
– disminuyen su rotación en un 50% en los puestos sensibles
¿Es magia? ✨🔮✨
En absoluto.
Simplemente comenzaron a reclutar interesándose por quiénes son realmente las personas, en lugar de solo por su CV.
¿Y sabe qué?
Cuando uno se interesa realmente por las personas… obtiene mejores resultados.
Increíble, ¿no?
