Leçons tirées de l'"algorithme sexiste" d'Amazon... ?
Il y a quelques années, Amazon a mené une expérience pour automatiser la présélection de CV ! L'idée pour Amazon était de développer un algorithme capable de recevoir 100 CV, de noter chacun sur 5 étoiles (un peu comme nous évaluons les livres) pour que l'algorithme produise, à chaque fois, les 5 candidats avec les plus fortes probabilités de réussir dans l'entreprise ! Et puis... C'est le fiasco ! On découvre que ça ne marche pas !
Résumez cet article avec :
Si vous travaillez directement ou indirectement dans les RH (et encore plus dans le recrutement), vous vous souvenez peut-être de cette histoire...
⚠️ BREAKING NEWS ⚠️
#RésuméRapide... de quoi s'agit-il vraiment ?
Il y a quelques années, Amazon a mené une expérience pour automatiser la présélection de CV ! L'idée pour Amazon était de développer un algorithme capable de recevoir 100 CV, de noter chacun sur 5 étoiles (un peu comme nous évaluons les livres) pour que l'algorithme produise, à chaque fois, les 5 candidats avec les plus fortes probabilités de réussir dans l'entreprise ! #GainDeTempsGarantiEt puis... C'est le fiasco ! On découvre que ça ne marche pas ! 😱Pire encore, l'algorithme avait tendance à écarter - presque systématiquement - les CV des femmes. #PasJuste
Quelle leçon pouvons-nous tirer de cette expérience ratée ?
Un algorithme n'est pas intrinsèquement sexiste... on lui apprend à l'être.
Premièrement, il est crucial de comprendre qu'un algorithme n'est jamais biaisé/sexiste/raciste/homophobe/... en soi. Il ne constitue encore que la formalisation d'un processus de recrutement paramétré par des êtres humains.Dans le cas spécifique d'Amazon, (1) l'IA a été entraînée à partir des données des CV (2) de personnes déjà employées au sein de l'entreprise, (3) qui avaient été recrutées par une équipe d'humains aux RH.#1 - D'abord la question des CV...Si nous programmons l'IA en utilisant les données des CV, la "connaissance initiale" que nous lui fournissons porte, d'une part, sur les parcours académiques des personnes (diplôme obtenu, quelle école), et d'autre part, sur leur parcours professionnel (postes occupés, pendant combien de temps, dans quelles entreprises, dans quels domaines). #FinDeLHistoire#2 - La nature de l'échantillon...Amazon - du moins à l'époque - en tant qu'entreprise avait une répartition 60:40 hommes/femmes parmi ses employés... Évidemment, les hommes étant surreprésentés dans l'échantillon initial, cela affectera la constitution des règles de configuration de l'algorithme. #Logique#3 - Enfin, les propres biais de l'équipe RH.Les humains sont faillibles ; nous sommes sujets à de nombreux biais (plusieurs dizaines) tant dans notre compréhension de l'information que dans notre façon de prendre des décisions. L'algorithme n'a fait que modéliser le processus de recrutement, tel qu'il avait été appliqué par les équipes d'Amazon pendant plusieurs années. Il a donc reproduit les biais qui sont intrinsèquement humains.⚠️ Important : Je ne porte pas de jugement spécifique - quel qu'il soit - sur le travail fourni par ces équipes. Si nous devions exécuter la même IA sur les CV de la plupart des entreprises, nous arriverions à une génération d'algorithmes qui discriminent les femmes (au moins en ce qui concerne leur accès aux postes de management et au-delà), les personnes de plus de 45 ans, les personnes en situation de handicap, voire les personnes dont les noms "sonnent étranger"... (pour ne citer que quelques exemples).😏
Alors, faut-il mettre fin aux algorithmes dans le recrutement ?
Personne ne niera qu'il y a un ÉNORME problème ici. Se priver de la MOITIÉ des talents disponibles est un ÉNORME problème pour toute entreprise... Sans parler de discriminer les femmes, uniquement en raison de leur genre (un critère absolument sans rapport avec leur capacité à occuper le(s) poste(s) proposé(s)).Cependant, en tirer la conclusion que les algorithmes sont intrinsèquement dangereux serait une terrible erreur. Une erreur équivalente à dire qu'"il est inconcevable de conduire une voiture" si l'on avait lu dans le journal un accident de voiture mortel.Le vrai problème ne serait-il pas en fait... de sélectionner sur la base des CV ?Aujourd'hui, presque tout le monde - recruteurs inclus - s'accorde à dire que les CV ne sont pas un prédicteur fiable de la capacité des personnes à réussir et à s'épanouir au travail. De plus, de nombreuses études menées sur le sujet sont toutes arrivées à la même conclusion !Et pourtant, dans tant d'entreprises, nous continuons à présélectionner les candidats sur la base de leur CV... 🧐 #TrouvezLeProblème
En sélectionnant mal des informations ayant peu (voire aucune) valeur prédictive (les informations contenues dans un CV), qui de surcroît proviennent d'un échantillon à dominante masculine, puis en les faisant passer à travers l'IA... Que pouvions-nous attendre d'autre ? 🤷🏻♂️Pourtant AUJOURD'HUI, toute entreprise a les moyens d'améliorer significativement sa présélection...De toutes les entreprises que je fréquente et avec lesquelles je collabore (et il y en a beaucoup), il n'y en a pas une seule qui soit parvenue à améliorer significativement la qualité de son recrutement (je veux dire de manière objective et mesurable) en s'appuyant uniquement sur ses ressources internes. Et je ne dis pas ça pour les pointer du doigt... C'est juste qu'elles ont d'autres choses à faire avec leurs journées déjà bien remplies ! #Priorités Alors, comment devons-nous procéder ?De nombreuses études menées dans le monde entier attestent qu'il est DE LOIN plus pertinent de sélectionner vos candidats (ou collaborateurs quand il s'agit de mobilité interne) sur la base de "qui ils sont vraiment", c'est-à-dire leur potentiel. Notamment en utilisant des systèmes d'évaluation (tests de recrutement). Notez que ces systèmes peuvent parfaitement compléter les éléments que vous avez déjà en place si vous le souhaitez...Logique... Regardez ce qui est en jeu :
- D'un côté, un CV : parcours académique et professionnel
- De l'autre, qui est cette personne (vraiment) : agilité intellectuelle, capacité d'apprentissage, motivations profondes, personnalité et comportements en environnement professionnel
À votre avis, qu'est-ce qui vous permettra de mieux prédire la capacité de vos candidats à réussir dans un poste ? À s'intégrer dans l'équipe existante ? À adhérer (ou non) aux valeurs de votre entreprise ainsi qu'au projet de l'entreprise ?
Vous pouvez automatiser (au moins en partie) vos processus de présélection, tout en évitant "l'effet Amazon".
Mais attention : utiliser des "tests de recrutement" seuls (pour évaluer les caractéristiques du "Potentiel") ne garantira pas à lui seul le succès de votre recrutement. Nous devrons aller un peu plus loin que ça...Les modèles prédictifs : la pièce centrale des algorithmes de recrutement prédictif.Les "tests" sont utilisés pour collecter des données fiables (à condition que les tests que vous utilisez soient fiables) sur chacun de vos candidats. Mais ces données, le "profil" de chaque candidat, doivent être utilisées à un moment donné en comparaison avec un modèle de critères attendus ! C'est précisément cette comparaison (rapprocher le profil des candidats et un profil de critères attendus) qui peut être modélisée à travers un algorithme.Ce modèle de critères attendus est dit "prédictif" lorsqu'il existe des preuves liant les critères définis (traits de personnalité recherchés par exemple) et la ou les variable(s) que vous souhaitez prédire (comme la performance ou même l'adéquation à une culture d'entreprise).Comment créer un modèle prédictif ?Pour créer un modèle prédictif, il vous suffit d'évaluer un échantillon de la population pour laquelle vous souhaitez prédire la performance (par exemple). Par exemple, vous pourriez demander à chacun de vos collaborateurs occupant un ou des poste(s) donné(s) de compléter un questionnaire de personnalité, de motivation et/ou de raisonnement. C'est l'étape #1.Ensuite (Étape #2), vous évaluerez chacun d'entre eux sur les critères de performance que vous souhaitez anticiper chez vos futurs candidats. En gros, vous devez dire pour chacun de vos collaborateurs actuels à quel point ils performent. En principe, cela devrait être assez évident à noter...Sauf que dans certaines entreprises, on entendra parfois :
"Eh bien, nous ne savons pas, nous n'avons pas les données !"
⚠️ AVERTISSEMENT : Soyons clairs... Si vous ne pouvez pas - en interne - évaluer la performance de vos collaborateurs (c'est-à-dire dire "qui fait bien le travail et qui ne le fait pas" dans un poste donné), RIEN ni PERSONNE ne pourra jamais vous aider à améliorer significativement la qualité de votre processus de recrutement.Vous pourrez améliorer votre Expérience Candidat et obtenir des statistiques sur vos entonnoirs de candidature, mais sans cette capacité à comprendre objectivement la performance des équipes, vous ne pourrez JAMAIS améliorer votre capacité à prédire le succès et/ou l'engagement de vos candidats... #LaVéritéFaitMalSi un expert vient vous voir et vous explique - sans demander ou avoir accès à ce type d'informations - qu'il a une formule qui vous permettra de mieux recruter, il ne fait que vendre du vent. #FuyezÀToutesJambes"Si mon entreprise a jusqu'à présent recruté principalement des hommes (ou des femmes, ou des candidats uniquement issus des plus grandes écoles...) n'y a-t-il pas un risque de créer un biais à la Amazon ?"En fait, NON... car les critères psychologiques et comportementaux sont extrêmement bien distribués au sein de la population, indépendamment du genre, de l'âge, de l'origine ou de nombreux autres critères.En conséquence, cette approche vous permet de contourner directement ce type de biais !
Résultats du recrutement prédictif
En moyenne, les entreprises qui utilisent le recrutement prédictif sélectionnent des collaborateurs qui ont 20 % de chances supplémentaires de réussir par rapport à ceux sélectionnés via une approche plus traditionnelle.Elles accélèrent leur processus de recrutement de 30 %, réduisent leurs coûts d'environ 20 % et divisent par deux leur turnover sur certains postes sensibles.
Est-ce de la magie ? ✨🔮✨