Que lição tirar do algoritmo sexista da Amazon?
Há 3 anos, a Amazon conduziu uma experimentação para automatizar a pré-seleção por CV! A ideia da Amazon era desenvolver um algoritmo capaz de analisar 100 CVs, avaliá-los com até 5 estrelas e selecionar os 5 candidatos com maior probabilidade de sucesso na empresa! E aí... Incrível! Descobriu-se que não funcionava! 😱
Resuma este artigo com:
Sumário:
- ⚠️ BREAKING NEWS ⚠️
- #ResumoRápido… do que se trata realmente?
- Um algoritmo não nasce "Sexista"… ele se torna.
- Devemos então acabar com os algoritmos no recrutamento?
- Você pode automatizar seus processos de pré-seleção evitando o efeito "Amazon"
- Os resultados do recrutamento preditivo
Se você trabalha de perto ou de longe com RH (e sobretudo com recrutamento), certamente já viu a notícia…
⚠️ BREAKING NEWS ⚠️
Imagem: Screenshot Linkedin
(https://media-exp1.licdn.com/dms/image/C4E12AQFdj7J0Jlx-ZQ/article-inline_image-shrink_1500_2232/0/1539515104318)
Dezenas e dezenas de posts desse tipo foram publicados desde o último fim de semana (sites de notícias, LinkedIn…) para divulgar a novidade…
#ResumoRápido… do que se trata realmente?
Há 3 anos, a Amazon conduziu uma experimentação para automatizar a pré-seleção por CV.
A ideia: criar um algoritmo capaz de analisar 100 CVs, avaliá-los com até 5 estrelas e selecionar os 5 melhores perfis em termos de probabilidade de sucesso na empresa.
E aí… incrível!
Descobriu-se que não funcionava.
Pior ainda, o algoritmo descartava quase sistematicamente os CVs das mulheres.
#NãoÉJusto #DenuncieOAlgoritmo #IAÉONovoPorco
Como profissional de RH, que lição tirar dessa "experimentação fracassada"?
Um algoritmo não nasce "Sexista"… ele se torna.
Um algoritmo nunca é enviesado, sexista, racista ou discriminatório "por natureza".
Ele é apenas a formalização de um processo parametrizado… por humanos.
No caso da Amazon, a IA foi treinada com dados provenientes dos CVs de pessoas já empregadas na empresa.
Ela, portanto, reproduziu as decisões tomadas pelas equipes de RH ao longo de vários anos.
1 — Primeiro, a questão do CV
Ao treinar uma IA com CVs, fornecemos a ela apenas:
– trajetórias acadêmicas (diplomas, universidades)
– trajetórias profissionais (cargos, duração, setores)
2 — A natureza da amostra
Na época, a Amazon contava com mais de 60% de homens.
Uma IA treinada em uma amostra majoritariamente masculina logicamente aprende regras… masculinas.
3 — Os vieses humanos da equipe de RH
Os humanos são falíveis e sujeitos a inúmeros vieses.
O algoritmo apenas modelou esse sistema e, portanto, reproduziu esses vieses.
⚠️ Importante:
Se aplicássemos a mesma IA aos CVs de outras empresas, provavelmente obteríamos algoritmos discriminatórios contra:
– mulheres
– pessoas com mais de 45 anos
– pessoas com deficiência
– pessoas com nomes de origem estrangeira
… e outros ainda.
Devemos então acabar com os algoritmos no recrutamento?
Privar-se de 50% dos talentos é um enorme problema.
Mas concluir que os algoritmos são "perigosos" ou "não estão prontos" seria um erro comparável a dizer que devemos proibir carros porque um motorista bêbado teve um acidente…
O verdadeiro problema não seria… a seleção por CV?
Todo mundo concorda que o CV não é um bom preditor de sucesso no cargo.
No entanto, praticamente todas as empresas continuam a usá-lo como filtro principal.
Imagem: "What the f*** is wrong with you people?"
(https://media-exp1.licdn.com/dms/image/C4E12AQHyx6aj7tqWnA/article-inline_image-shrink_1000_1488/0/1539534799488)
Usando dados fracos (CV), provenientes de uma amostra masculina, e processando-os em uma IA… difícil esperar algo diferente de vieses.
Além disso, mesmo em empresas do CAC40 que dispõem de Data Scientists, o RH frequentemente permanece o "primo pobre": muitos recursos para marketing, negócios… mas raramente para o RH.
Porém, hoje, qualquer empresa pode fazer uma pré-seleção realmente melhor.
Comparemos:
De um lado:
o CV
(trajetória acadêmica e profissional)
Do outro:
quem a pessoa realmente é
(agilidade intelectual, capacidade de aprender, motivações, personalidade, comportamentos no trabalho)
Qual dessas duas categorias realmente prevê o desempenho, a integração, a adequação cultural?
Você pode automatizar sua pré-seleção… sem reproduzir o efeito "Amazon"
Usar testes de recrutamento não basta.
É preciso associá-los a um modelo preditivo, ou seja, a definição:
– dos critérios esperados
– e de sua relação com o desempenho no cargo
Como se cria um modelo preditivo?
Etapa 1:
Avaliar os colaboradores em exercício com questionários:
– personalidade
– motivações
– raciocínio
Etapa 2:
Avaliar seu nível de desempenho no critério que se busca prever.
"Não sabemos, não temos os dados!"
⚠️ Se uma empresa não sabe avaliar o desempenho, nenhuma ferramenta poderá melhorar a qualidade de seus recrutamentos.
Ela poderá melhorar a experiência do candidato, extrair estatísticas… mas jamais prever o sucesso.
Se um "especialista" pretende ajudá-lo sem pedir esses dados, fuja.
"E se minha empresa historicamente recrutou principalmente homens?"
Nenhum risco de reproduzir um viés "à la Amazon".
Os critérios psicológicos e comportamentais são muito bem distribuídos na população, independentemente do gênero, idade ou origem.
Os resultados do recrutamento preditivo
Em média, as empresas que utilizam o recrutamento preditivo:
– selecionam colaboradores 20% mais produtivos
– aceleram seus processos em 30%
– reduzem seus custos em cerca de 20%
– diminuem seu turnover em 50% nos cargos sensíveis
Isso é mágica? ✨🔮✨
De forma alguma.
Elas simplesmente passaram a recrutar se interessando por quem as pessoas realmente são, em vez de apenas pelo seu CV.
E adivinhe?
Quando nos interessamos verdadeiramente pelas pessoas… obtemos melhores resultados.
Incrível, não?
