Quelle leçon tirer de l’algorithme sexiste d’Amazon ?

Sommaire :

1. ⚠️ BREAKING NEWS ⚠️
2. #LongStoryShort… de quoi s’agit-il réellement ?
3. Un algorithme ne naît pas “Sexiste”… il le devient.
4. Faut-il pour autant en finir avec les algorithmes en recrutement ?
5. Vous pouvez automatiser vos processus de présélection tout en évitant l’effet « Amazon »
6. Les résultats du recrutement prédictif

Si vous bossez de près ou de loin dans les RH (et à fortiori dans le recrutement), vous avez forcément vu passer la nouvelle…

⚠️ BREAKING NEWS ⚠️

Image : Screenshot Linkedin

(https://media-exp1.licdn.com/dms/image/C4E12AQFdj7J0Jlx-ZQ/article-inline_image-shrink_1500_2232/0/1539515104318)

Des dizaines et des dizaines de posts de ce genre ont été publiés depuis le week-end dernier (sites d’infos, Linkedin…) pour relayer la nouvelle…

#LongStoryShort… de quoi s’agit-il réellement ?

Il y a 3 ans, Amazon a conduit une expérimentation en vue d’automatiser la présélection sur CV.

L’idée : créer un algorithme capable d’analyser 100 CV, de les noter sur 5 étoiles et d’en ressortir les 5 meilleurs profils en termes de probabilité de réussite dans l’entreprise.

Et là… incroyable !

On découvre que cela ne fonctionne pas.

Pire encore, l’algorithme écartait quasi systématiquement les CV des femmes.

#NotFair #BalanceTonAlgorithme #AiIsTheNewPig

En tant que RH, quelle leçon tirer de cette “expérimentation ratée” ?

Un algorithme ne naît pas “Sexiste”… il le devient.

Un algorithme n’est jamais biaisé, sexiste, raciste ou discriminant “par nature”.

Il n’est que la formalisation d’un processus paramétré… par des humains.

Dans le cas d’Amazon, l’IA a été entraînée sur les données issues des CV de personnes déjà en poste dans l’entreprise.

Elle a donc reproduit les décisions prises par les équipes RH sur plusieurs années.

1 — Déjà, la question du CV

En entraînant une IA sur des CV, on lui fournit uniquement :

– des parcours académiques (diplômes, écoles)

– des parcours professionnels (postes, durée, secteurs)

2 — La nature de l’échantillon

À l’époque, Amazon comptait plus de 60 % d’hommes.

Une IA entraînée sur un échantillon majoritairement masculin apprend logiquement des règles… masculines.

3 — Les biais humains de l’équipe RH

Les humains sont faillibles et sujets à de nombreux biais.

L’algorithme n’a fait que modéliser ce système, et donc reproduire ces biais.

⚠️ Important :

Si l’on appliquait la même IA aux CV d’autres entreprises, on obtiendrait probablement des algorithmes discriminants envers :

– les femmes

– les plus de 45 ans

– les personnes handicapées

– les personnes avec noms à consonance étrangère

… et d’autres encore.

Faut-il pour autant en finir avec les algorithmes en recrutement ?

Se priver de 50 % des talents est un énorme problème.

Mais conclure que les algorithmes sont “dangereux” ou “pas au point” serait une erreur comparable à dire qu’il faut interdire les voitures parce qu’un conducteur ivre a eu un accident…

Le vrai problème ne serait-il pas plutôt… la sélection sur CV ?

Tout le monde s’accorde à dire que le CV n’est pas un bon prédicteur de réussite en poste.

Pourtant, pratiquement toutes les entreprises continuent de l’utiliser comme filtre principal.

Image : “What the f*** is wrong with you people?”

(https://media-exp1.licdn.com/dms/image/C4E12AQHyx6aj7tqWnA/article-inline_image-shrink_1000_1488/0/1539534799488)

En utilisant des données faibles (CV), provenant d’un échantillon masculin, et en les faisant tourner dans une IA… difficile d’espérer autre chose que des biais.

De plus, même dans des entreprises du CAC40 disposant de Data Scientists, les RH restent souvent le “parent pauvre” : beaucoup de ressources pour le marketing, le business… mais rarement pour les RH.

Pourtant, aujourd’hui, n’importe quelle entreprise peut faire une présélection réellement meilleure.

Comparons :

D’un côté :

le CV

(parcours académique et professionnel)

De l’autre :

qui est réellement la personne

(agilité intellectuelle, capacité à apprendre, motivations, personnalité, comportements au travail)

Laquelle de ces deux catégories prédit réellement la performance, l’intégration, l’adéquation culturelle ?

Vous pouvez automatiser votre présélection… sans reproduire l’effet “Amazon”

Utiliser des tests de recrutement ne suffit pas.

Il faut les associer à un modèle prédictif, c’est-à-dire la définition :

– des critères attendus

– et de leur lien avec la performance en poste

Comment crée-t-on un modèle prédictif ?

Étape 1 :

Évaluer les collaborateurs en poste avec des questionnaires :

– personnalité

– motivations

– raisonnement

Étape 2 :

Évaluer leur niveau de performance sur le critère que l’on cherche à prédire.

“On ne sait pas, on n’a pas la donnée !”

⚠️ Si une entreprise ne sait pas évaluer la performance, aucun outil ne pourra améliorer la qualité de ses recrutements.

Elle pourra améliorer l’expérience candidat, extraire des stats… mais jamais prédire la réussite.

Si un “expert” prétend vous aider sans demander ces données, fuyez.

“Et si mon entreprise a historiquement recruté surtout des hommes ?”

Aucun risque de reproduire un biais “à la Amazon”.

Les critères psychologiques et comportementaux sont très bien répartis dans la population, quel que soit le genre, l’âge ou l’origine.

Les résultats du recrutement prédictif

En moyenne, les entreprises qui utilisent le recrutement prédictif :

– sélectionnent des collaborateurs 20 % plus performants

– accélèrent leurs processus de 30 %

– réduisent leurs coûts d’environ 20 %

– diminuent leur turnover de 50 % sur les postes sensibles

Est-ce de la magie ? ✨🔮✨

Pas du tout.

Elles se sont simplement mises à recruter en s’intéressant à qui sont réellement les personnes, plutôt qu’à leur CV seul.

Et devinez quoi ?

Quand on s’intéresse vraiment aux personnes… on obtient de meilleurs résultats.

Dingue, non ?

‍