Lecciones aprendidas del "algoritmo sexista" de Amazon
Hace unos años, Amazon llevó a cabo un experimento para automatizar la preselección de CVs. La idea era desarrollar un algoritmo capaz de recibir 100 CVs, calificar cada uno con hasta 5 estrellas para producir los 5 candidatos con mayor probabilidad de éxito en la empresa. Y entonces... ¡fracasó!
Resuma este artículo con:
Si trabaja directa o indirectamente en RRHH (y más aún en reclutamiento), quizá recuerde esta historia...
#ResumenRápido... ¿de qué se trata realmente?
Hace unos años, Amazon llevó a cabo un experimento para automatizar la preselección de CVs. La idea de Amazon era desarrollar un algoritmo capaz de recibir 100 CVs, calificar cada uno con hasta 5 estrellas (un poco como evaluamos los libros) para que el algoritmo pudiera producir, cada vez, los 5 candidatos con mayor probabilidad de tener éxito en la empresa. #AhorroDeTimepoGarantizado Y entonces... ¡fracasó! Peor aún, el algoritmo tendía a descartar, casi sistemáticamente, los CVs de mujeres. #NoEsJusto
¿Qué lección podemos aprender de este experimento fallido?
Un algoritmo no es inherentemente sexista... se le enseña a serlo.
En primer lugar, es crucial entender que un algoritmo nunca es sesgado/sexista/racista/homófobo/... por sí mismo. Sigue siendo solo la formalización de un proceso de reclutamiento parametrizado por seres humanos. En el caso específico de Amazon, (1) la I.A. fue entrenada con datos de los CVs (2) de personas ya empleadas en la empresa, (3) que fueron reclutadas por un equipo humano de RRHH.#1 - Primero, la cuestión de los CVs... Si programamos la IA con datos de CVs, el "conocimiento inicial" que le proporcionamos se refiere, por un lado, a la formación académica de las personas (título[s] obtenido[s], qué escuela[s]), y por otro, a su trayectoria profesional (puestos ocupados, durante cuánto tiempo, en qué empresas, en qué sectores). #FinDeLaHistoria#2 - La naturaleza de la muestra... Amazon, al menos en ese momento, como empresa tenía una distribución de 60:40 de empleados hombres frente a mujeres... Evidentemente, al estar los hombres sobrerrepresentados en la muestra inicial, esto afectará la constitución de las reglas de configuración del algoritmo. #Lógico#3 - Finalmente, los propios sesgos del equipo de RRHH. Los seres humanos somos falibles; estamos sujetos a muchos sesgos (varias decenas) tanto en nuestra comprensión de la información como en la forma en que tomamos decisiones. El algoritmo solo modeló el proceso de reclutamiento, tal como había sido aplicado por los equipos de Amazon durante varios años. Por lo tanto, reprodujo los sesgos que son inherentemente humanos.Importante: No emito un juicio específico, sea cual sea, sobre el trabajo realizado por estos equipos. Si ejecutáramos la misma IA sobre los CVs de la mayoría de las empresas, llegaríamos a una generación de algoritmos que discriminan a las mujeres (al menos en lo que respecta a su acceso a puestos directivos y superiores), a personas mayores de 45 años, a personas con discapacidad, e incluso a personas cuyos nombres "suenan extranjeros"... (por nombrar solo algunos ejemplos).
Entonces, ¿debemos acabar con los algoritmos en el reclutamiento?
Nadie negará que hay un ENORME problema aquí. Privarse de la MITAD del talento disponible es un ENORME problema para cualquier empresa... Sin mencionar la discriminación contra las mujeres, únicamente por su género (un criterio absolutamente ajeno a su capacidad para ocupar el/los puesto(s) ofrecido(s)). Sin embargo, concluir que los algoritmos son inherentemente peligrosos sería un error terrible. Un error equivalente a decir que "es inconcebible conducir un coche" si uno hubiera leído en el periódico sobre un accidente de coche fatal.¿No sería el verdadero problema... seleccionar en base a los CVs? Hoy en día, casi todos, incluidos los reclutadores, están de acuerdo en que los CVs no son un predictor fiable de la capacidad de las personas para tener éxito y prosperar en el entorno laboral. Además, muchos estudios realizados sobre el tema han llegado todos a la misma conclusión. Y sin embargo, en tantas empresas seguimos preseleccionando candidatos en base a su CV... #EncuentreElProblema
Al seleccionar inadecuadamente información con poco (o ningún) valor predictivo (la información contenida en un CV), que además proviene de una muestra dominada por hombres y luego procesarla a través de I.A.... ¿Qué más podíamos esperar?Sin embargo, HOY, cualquier empresa tiene los medios para mejorar significativamente su preselección... De todas las empresas que frecuento y con las que colaboro (y son muchas), no hay una sola que haya logrado mejorar significativamente la calidad de su reclutamiento (me refiero de una manera objetiva y medible) basándose únicamente en sus recursos internos. Y no lo digo para señalarlas... Es simplemente que tienen otras cosas que hacer en sus días ya de por sí ocupados. #PrioridadesEntonces, ¿cómo debemos hacer las cosas? Numerosos estudios realizados en todo el mundo atestiguan que es CON MUCHO más pertinente seleccionar a sus candidatos (o empleados cuando se trata de movilidad interna) en función de "quiénes son realmente", es decir, su potencial. En particular, utilizando sistemas de evaluación (tests de reclutamiento). Tenga en cuenta que estos sistemas pueden complementar perfectamente los elementos que ya tiene implementados si lo desea...Lógico... Observe lo que tenemos en juego:
- Por un lado, un CV: formación académica y trayectoria profesional
- Por otro lado, quién es realmente esta persona: agilidad intelectual, capacidad de aprendizaje, motivaciones profundas, personalidad y comportamientos en un entorno laboral
En su opinión, ¿qué le permitirá predecir mejor la capacidad de sus candidatos para tener éxito en un puesto? ¿Para integrarse en el equipo existente? ¿Para adherirse (o no) a los valores de su empresa así como al proyecto de la empresa?
Puede automatizar (al menos en parte) sus procesos de preselección, evitando el "efecto Amazon".
Pero atención: utilizar "tests de reclutamiento" solos (para evaluar las características del "Potencial") no garantizará por sí solo el éxito de su reclutamiento. Tendremos que ir un poco más allá...Modelos predictivos: la pieza central de los algoritmos de reclutamiento predictivo. Los "tests" sirven para recopilar datos fiables (siempre que los tests que utilice sean fiables) sobre cada uno de sus candidatos. Pero estos datos, el "perfil" de cada candidato, deben utilizarse en algún momento en comparación con un modelo de criterios esperados. Es precisamente esta comparación (que reúne el perfil de los candidatos y un perfil de criterios esperados) la que puede modelarse a través de un algoritmo. Este modelo de criterios esperados se dice que es "predictivo" cuando existe evidencia que vincula los criterios definidos (rasgos de personalidad buscados, por ejemplo) y la(s) variable(s) que se desea predecir (como el rendimiento o incluso la adaptación a la cultura de la empresa).¿Cómo crear un modelo predictivo? Para crear un modelo predictivo, todo lo que necesita hacer es evaluar una muestra de la población para la cual desea predecir el rendimiento (por ejemplo). Por ejemplo, podría pedir a cada uno de sus empleados en un puesto determinado que complete un cuestionario de personalidad, motivación y/o razonamiento. Este es el paso #1. Luego (Paso #2), evaluará a cada uno de ellos según los criterios de rendimiento que desea anticipar en sus futuros candidatos. Básicamente, debe decir para cada uno de sus empleados actuales qué tan bien están rindiendo. Normalmente, esto debería ser bastante obvio de puntuar... Excepto que en algunas empresas, a veces escucharemos:
"Bueno, no lo sabemos, ¡no tenemos los datos!"
AVISO IMPORTANTE: Seamos claros... Si no puede, internamente, evaluar el rendimiento de sus empleados (es decir, decir "quién hace bien el trabajo y quién no" en un puesto determinado), NADA ni NADIE podrá jamás ayudarle a mejorar significativamente la calidad de su proceso de reclutamiento. Podrá mejorar su Experiencia del Candidato y obtener estadísticas sobre sus embudos de candidatos, pero sin esta capacidad de comprender objetivamente el rendimiento de los equipos, NUNCA podrá mejorar su capacidad para predecir el éxito y/o el compromiso de sus candidatos...Si un experto viene a verle y le explica, sin pedir ni tener acceso a este tipo de información, que tiene una fórmula que le permitirá reclutar mejor, solo le está vendiendo humo."Si mi empresa hasta ahora ha reclutado principalmente hombres (o mujeres, o candidatos solo de las mejores escuelas...) ¿no existe el riesgo de crear un sesgo tipo Amazon?" En realidad, NO... porque los criterios psicológicos y conductuales están extremadamente bien distribuidos dentro de la población, independientemente del género, la edad, el origen o muchos otros criterios. Como resultado, ¡este enfoque le permite sortear directamente este tipo de sesgos!
Resultados del reclutamiento predictivo
En promedio, las empresas que utilizan el reclutamiento predictivo seleccionan empleados con un 20% más de probabilidades de éxito que los seleccionados mediante un enfoque más tradicional. Aceleran su proceso de reclutamiento en un 30%, reducen sus costes en aproximadamente un 20% y reducen su rotación a la mitad para ciertos puestos sensibles.
¿Es magia?