Welke les kunnen we trekken uit het seksistische algoritme van Amazon?

Inhoudsopgave:

1. ⚠️ BREAKING NEWS ⚠️
2. #LongStoryShort… waar gaat het eigenlijk om?
3. Een algoritme wordt niet "Seksistisch" geboren… het wordt het.
4. Moeten we dan helemaal afstappen van algoritmen in recruitment?
5. Je kunt je voorselectieprocessen automatiseren en het "Amazon-effect" vermijden
6. De resultaten van predictive recruitment

Als je van dichtbij of veraf in HR werkzaam bent (en zeker in recruitment), heb je het nieuws ongetwijfeld voorbij zien komen…

⚠️ BREAKING NEWS ⚠️

Afbeelding: Screenshot LinkedIn

(https://media-exp1.licdn.com/dms/image/C4E12AQFdj7J0Jlx-ZQ/article-inline_image-shrink_1500_2232/0/1539515104318)

Tientallen en tientallen berichten van dit soort werden de afgelopen week gepubliceerd (nieuwssites, LinkedIn…) om het nieuws door te verspreiden…

#LongStoryShort… waar gaat het eigenlijk om?

Drie jaar geleden voerde Amazon een experiment uit om de cv-voorselectie te automatiseren.

Het idee: een algoritme ontwikkelen dat 100 cv's kan analyseren, ze beoordelen op 5 sterren en de 5 beste profielen naar voren brengen op basis van de kans op succes in het bedrijf.

En dan… ongelooflijk!

Men ontdekt dat dit niet werkt.

Erger nog, het algoritme wees cv's van vrouwen quasi systematisch af.

#NietFair #BalanceTonAlgorithme #AiIsTheNewPig

Als HR-professional: welke les kun je trekken uit dit "mislukte experiment"?

Een algoritme wordt niet "Seksistisch" geboren… het wordt het.

Een algoritme is nooit bevooroordeeld, seksistisch, racistisch of discriminerend "van nature".

Het is slechts de formalisering van een door mensen geconfigureerd proces.

In het geval van Amazon werd de AI getraind op gegevens afkomstig van cv's van mensen die al in dienst waren bij het bedrijf.

Het reproduceerde dus de beslissingen die de HR-teams over meerdere jaren hadden genomen.

1 — Allereerst: de kwestie van het cv

Door een AI te trainen op cv's, geef je haar uitsluitend:

– academische loopbanen (diploma's, scholen)

– professionele loopbanen (functies, duur, sectoren)

2 — De aard van de steekproef

Destijds bestond Amazon voor meer dan 60% uit mannen.

Een AI die getraind wordt op een overwegend mannelijke steekproef leert logischerwijs… mannelijke regels.

3 — De menselijke vooroordelen van het HR-team

Mensen zijn feilbaar en vatbaar voor talrijke vooroordelen.

Het algoritme heeft dit systeem slechts gemodelleerd en deze vooroordelen daarmee gereproduceerd.

⚠️ Belangrijk:

Als dezelfde AI op cv's van andere bedrijven werd toegepast, zou men waarschijnlijk algoritmen krijgen die discrimineren op basis van:

– geslacht (vrouwen)

– leeftijd (45-plussers)

– handicap

– namen met een buitenlandse klank

… en nog veel meer.

Moeten we dan helemaal afstappen van algoritmen in recruitment?

50% van de talenten uitsluiten is een enorm probleem.

Maar concluderen dat algoritmen "gevaarlijk" of "niet klaar voor gebruik" zijn, zou een vergelijkbare fout zijn als zeggen dat we auto's moeten verbieden omdat een dronken bestuurder een ongeluk heeft gehad…

Is het echte probleem niet veeleer… de cv-selectie?

Iedereen is het erover eens dat het cv geen goede voorspeller is van succes in een functie.

Toch blijven vrijwel alle bedrijven het als primair filter gebruiken.

Afbeelding: "What the f*** is wrong with you people?"

(https://media-exp1.licdn.com/dms/image/C4E12AQHyx6aj7tqWnA/article-inline_image-shrink_1000_1488/0/1539534799488)

Wanneer je zwakke data (cv's) gebruikt, afkomstig uit een overwegend mannelijke steekproef, en deze door een AI laat verwerken… is het moeilijk iets anders te verwachten dan vooroordelen.

Bovendien zijn HR-afdelingen bij CAC40-bedrijven met Data Scientists vaak het "zwakke broertje": veel middelen voor marketing en business… maar zelden voor HR.

Toch kan elk bedrijf vandaag een aanzienlijk betere voorselectie uitvoeren.

Vergelijking:

Aan de ene kant:

het cv

(academische en professionele loopbaan)

Aan de andere kant:

wie de persoon werkelijk is

(intellectuele wendbaarheid, leervermogen, motivaties, persoonlijkheid, werkgedrag)

Welke van deze twee categorieën voorspelt werkelijk de prestatie, de integratie, de culturele fit?

Je kunt je voorselectie automatiseren… zonder het "Amazon-effect" te reproduceren

Het gebruik van recruitmenttests alleen is niet voldoende.

Ze moeten worden gekoppeld aan een voorspellend model, d.w.z. de definitie van:

– de verwachte criteria

– en hun verband met prestaties in de functie

Hoe maak je een voorspellend model?

Stap 1:

Beoordeel de huidige medewerkers met vragenlijsten over:

– persoonlijkheid

– motivaties

– redeneren

Stap 2:

Beoordeel hun prestatieniveau op het criterium dat je wilt voorspellen.

"Dat weten we niet, we hebben de data niet!"

⚠️ Als een bedrijf prestaties niet kan meten, kan geen enkel tool de kwaliteit van de werving verbeteren.

Het kan de kandidaatervaring verbeteren, statistieken genereren… maar nooit succes voorspellen.

Als een "expert" beweert je te helpen zonder deze gegevens op te vragen, vluchten maar.

"En als mijn bedrijf historisch gezien voornamelijk mannen heeft aangeworven?"

Er is geen risico op het reproduceren van een "Amazon-achtig" vooroordeel.

Psychologische en gedragscriteria zijn zeer goed verdeeld in de bevolking, ongeacht geslacht, leeftijd of afkomst.

De resultaten van predictive recruitment

Gemiddeld genomen selecteren bedrijven die gebruikmaken van predictive recruitment:

– medewerkers die 20% beter presteren

– hun processen 30% sneller verlopen

– hun kosten met ongeveer 20% dalen

– hun verloop bij gevoelige functies met 50% vermindert

Is dat magie? ✨🔮✨

Helemaal niet.

Ze zijn simpelweg begonnen met werven door te kijken naar wie mensen werkelijk zijn, in plaats van alleen naar hun cv.

En weet je wat?

Wanneer je werkelijk geïnteresseerd bent in mensen… behaal je betere resultaten.

Verbazingwekkend, toch?

‍