Nova pesquisa sobre IA e equidade na contratação

A IA irá melhorar ou prejudicar a equidade? Com quase 90% das empresas atualmente utilizando alguma forma de IA na contratação, essa questão é prioridade para muitos líderes e tende a dividi-los em dois campos. Um lado acredita que os algoritmos tornarão a contratação mais justa, reduzindo o “preconceito” humano e o “ruído” na tomada de decisões. O outro alerta que os algoritmos podem reproduzir e até mesmo amplificar as desigualdades existentes em grande escala. Ambos ignoram uma realidade crucial: quando a IA é adotada, ela reformula o que é considerado justo em primeiro lugar. Isso é um problema. A maioria das empresas adota ferramentas de contratação baseadas em IA sem avaliá-las profundamente e continuamente ao longo do desenvolvimento e uso. A equidade é tratada como algo que a ferramenta oferece desde o primeiro dia, em vez de algo que os líderes precisam monitorar e ajustar na prática. O risco é silencioso, mas grave: a IA pode restringir seu leque de candidatos, marginalizar a experiência humana e fixar uma única definição de equidade. Em um novo estudo, traçamos como as definições do que é justo moldam os resultados da contratação — e oferecemos aos líderes perguntas melhores a serem feitas para garantir que as ferramentas realmente melhorem a contratação para candidatos, gerentes e empresas. O que nossa pesquisa mostra Nossas conclusões são resultado de um estudo de campo de três anos realizado em uma empresa global de bens de consumo que lida com mais de 10.000 candidatos a emprego por ano. Buscando melhorar a equidade, o RH substituiu a análise de currículos por avaliações cegas e gamificadas, analisadas por IA. O algoritmo foi treinado com dados de funcionários atuais que haviam concluído os mesmos jogos, vinculando suas pontuações aos resultados de desempenho. Ao aprender quais padrões de características estavam associados ao sucesso, o sistema previu a “adequação” dos novos candidatos, omitindo nomes, escolas e outros marcadores demográficos da visualização. A ideia parecia simples: tornar a contratação mais justa por meio de regras consistentes e baseadas em dados. No entanto, à medida que a ferramenta foi se expandindo, o que era considerado justiça começou a mudar. O RH priorizou a consistência entre todos os candidatos, enquanto os gerentes de linha de frente valorizaram o contexto local, reconhecendo que o que torna uma contratação forte varia de acordo com a função, o mercado e a equipe. Essas visões coexistiram por anos. O algoritmo, no entanto, transformou os princípios do RH em regras rígidas que eram difíceis de contornar. Com o tempo, essa versão algorítmica da justiça tornou-se dominante, enquanto outras visões, como a adaptação às necessidades locais, foram desaparecendo. As verdadeiras perguntas que os líderes devem fazer A lição para os líderes é que questionar se os seres humanos ou as máquinas são mais justos não os levará muito longe. Em vez disso, eles devem fazer um conjunto diferente de perguntas; perguntas que suscitem respostas sobre o que “justiça” realmente significa dentro da organização, quem a define e qual versão de justiça a IA reforça ou deixa de lado. As perguntas abaixo, baseadas em nossa pesquisa, ajudarão os líderes a avaliar os sistemas mais profundamente antes e depois da implementação, para garantir que a justiça – em toda a sua pluralidade – permaneça no centro. 1. Que versões de justiça existem em nossa organização? Quando as empresas introduzem a IA na contratação, muitas vezes assumem que a justiça tem um significado claro. Na realidade, a justiça geralmente tem vários significados, e eles nem sempre estão alinhados. Na empresa global de bens de consumo que estudamos, o RH supervisionava a equidade na contratação e equiparava-a a procedimentos consistentes e imparciais. Quando os gerentes de linha de frente se desviam das estruturas padronizadas em suas decisões de contratação, o RH interpreta isso como erro humano. O que eles não perceberam foi que os gerentes eram guiados por uma versão diferente de equidade, sensível ao contexto. Como essa versão permaneceu informal e tácita, ela nunca influenciou o design da IA. Quando o sistema entrou em operação, essa perspectiva ausente ficou dolorosamente clara, à medida que os conflitos surgiram rapidamente. Por exemplo, um gerente sênior desejava contratar um estagiário que ele havia orientado de perto e acreditava que se destacaria em uma região em rápido crescimento. No entanto, o algoritmo sinalizou o candidato como “inadequado” com base em seus dados de personalidade. O RH apoiou o modelo, considerando qualquer desvio como uma violação da consistência; o gerente viu isso como uma rejeição injusta de sua experiência. Essa tensão revela uma lição importante: se uma definição de justiça não for reconhecida e incorporada desde o início, ela não será reconhecida pelo sistema posteriormente, resultando em conflitos. Os líderes podem mitigar esses conflitos ao esclarecer o que realmente significa “justo” em toda a organização. Uma prática que auxilia os líderes a revelar diferentes definições é solicitar que cientistas de dados e líderes de projeto acompanhem o processo de contratação (como nós, pesquisadores, fizemos). Esses observadores terceirizados devem dedicar um tempo significativo para avaliar o que são decisões “justas” e “injustas” para os diferentes grupos, desde RH e gerentes de linha de frente até o departamento jurídico e os próprios candidatos a vagas. Observar em primeira mão o que cada grupo considera justo ajuda a revelar as múltiplas e frequentemente conflitantes definições que coexistem nas organizações. Igualmente importante é a criação de “infraestruturas éticas”, ou espaços dedicados onde diversos grupos refletem coletivamente e avaliam dilemas éticos à medida que eles surgem. Por exemplo, divergências sobre limites algorítmicos, previsões ou exceções não são sinais de falha; são momentos em que suposições ocultas sobre justiça se tornam visíveis e abertas à discussão. O Grupo H&M oferece um exemplo de como isso pode funcionar na prática. Em vez de tratar a ética como uma lista de verificação fixa, a empresa criou um Clube de Debate sobre IA Ética, onde equipes diversificadas se reúnem e debatem as vantagens e desvantagens do uso da IA em cenários realistas. Ao institucionalizar esses debates, a H&M transforma a reflexão contínua sobre a equidade em uma parte cotidiana do trabalho, e não em uma reflexão tardia. 2. Quem dá à IA o poder de decidir o que é “justo” e com base em quê? Os sistemas de IA não determinam o que é justo por conta própria; são as pessoas que lhes conferem esse poder. Os algoritmos adquirem influência das pessoas e departamentos que optam por implementá-los, autorizam seu uso e os posicionam como “objetivos” ou “justos”. Observamos essa dinâmica em primeira mão. Na empresa global de bens de consumo, tanto o departamento de RH quanto o fornecedor externo de IA defenderam a tecnologia como um avanço moral e técnico. Os líderes de RH viram a IA como uma forma de eliminar a inconsistência e o preconceito humanos; o fornecedor a descreveu como “cientificamente comprovada” e “acabando com a desigualdade”. A formulação foi poderosa para impulsionar a triagem automatizada e desviar a atenção dos riscos potenciais para a organização. Os gerentes de linha de frente que levantaram preocupações sobre a “clonagem” de perfis de candidatos ou a perda de candidatos atípicos que se encaixavam em suas equipes específicas foram descartados como subjetivos, em vez de proteger a justiça. O que começou como uma iniciativa para promover a justiça acabou marginalizando os insights locais que há muito apoiavam a contratação. Essa dinâmica não é única. Em todos os setores, os termos“justiça”e“antipreconceito”frequentemente contribuem para impulsionar as ferramentas de IA e restringir o espaço para debate. Quando os sistemas são apresentados como inerentemente justos, torna-se quase impossível questioná-los sem parecer contra o progresso. No entanto, a justiça não está incorporada no código, mas é negociada pelas pessoas que a projetam, implementam e defendem. Os líderes devem, portanto, examinar cuidadosamente a linguagem de justiça que acompanha as iniciativas de IA. Quando um sistema é promovido como “ético”, “científico” ou “imparcial”, esse é precisamente o momento de refletir e questionar: quem está fazendo essas afirmações e quais interesses ou agendas elas atendem? Quais métricas definem a equidade neste caso e quais vozes ou formas de especialização estão sendo deixadas de lado? Essas perguntas não retardam o progresso, elas ajudam a garantir que ele esteja alinhado com uma ampla gama de perspectivas, em vez de ser impulsionado por um otimismo tecnológico descontrolado. Os líderes também podem equilibrar as reivindicações repensando quem faz parte das equipes de implementação. Quando apenas os defensores da tecnologia conduzem projetos de IA, o resultado refletirá sua visão de mundo. Em vez disso, os líderes devem reunir uma variedade de vozes – especialistas em ética, parceiros de negócios e representantes das pessoas mais afetadas pelo sistema – e dar a todos voz igual. Esse equilíbrio de perspectivas garante que as decisões sobre justiça sejam debatidas, não presumidas, e que o julgamento crítico continue fazendo parte do processo. A Microsoft ilustra como as empresas podem tentar construir esse equilíbrio deliberadamente. Além das estruturas centrais de governança, ela conta com “Responsible AI Champs” (campeões responsáveis pela IA) locais: especialistas na área dentro das unidades de negócios que têm como objetivo identificar questões éticas e questionar suposições à medida que os sistemas são construídos e implementados. A lição para os líderes: não deixe que “o modelo é justo” seja o fim da conversa; crie funções e rotinas que mantenham várias vozes empoderadas para questionar o que significa justiça à medida que a IA toma forma. 3. Qual versão da justiça a IA reforça e o que se perde com o tempo? Os sistemas de IA não se limitam a aplicar uma definição de justiça, eles a fortalecem. Uma vez que os princípios são codificados em limites, modelos e fluxos de trabalho, eles adquirem um novo poder. A menos que os líderes revisitem essas escolhas regularmente, uma única visão de justiça fica presa, enquanto outras perspectivas valiosas são perdidas de vista. Foi o que ocorreu na empresa que estudamos. Uma vez que os princípios de RH foram traduzidos em pontuações algorítmicas e limites fixos, a equidade passou a ser equiparada a uma consistência rígida. Os candidatos com pontuação acima de 72% eram automaticamente aprovados, enquanto aqueles com pontuação inferior eram rejeitados sem uma avaliação humana. O que antes era uma decisão subjetiva tornou-se uma linha rígida. Enquanto isso, considerações menos quantificáveis, como a escassez de talentos locais ou a promessa de candidatos excepcionais que não se encaixavam no perfil algorítmico, foram enfraquecidas. Como resultado, os gerentes se viram diante de candidatos que consideravam muito semelhantes, pois o sistema favorecia um perfil de personalidade restrito, baseado em funcionários anteriores. E como a organização perdeu de vista os candidatos rejeitados automaticamente, não sabia qual potencial estava perdendo. Os líderes confundiram a ausência de evidências com a prova de que o sistema funcionava. É assim que a imparcialidade se perde: não por meio de falhas dramáticas, mas por meio da lenta e invisível exclusão de pontos de vista alternativos. Os líderes podem evitar esse desvio tratando a equidade como algo a ser avaliado continuamente, e não apenas como um exercício pontual. Programe revisões regulares nas quais cientistas de dados, RH, gerentes de linha de frente e equipes jurídicas analisem casos reais de contratação juntamente com os resultados do modelo e questionem se o sistema ainda reflete as prioridades atuais. Facilite tecnicamente o ajuste de limites, pesos e entradas de dados quando as evidências sugerirem desvios ou efeitos indesejados. Os gerentes de linha de frente devem ser fundamentais nessas revisões. Eles percebem rapidamente quando um limite que funcionou em um piloto está restringindo um pipeline regional ou filtrando candidatos atípicos, mas com alto potencial. Se seus sinais não tiverem para onde ir ou não houver uma resposta garantida, a organização não perceberá os problemas até que eles apareçam como vagas não preenchidas ou equipes homogêneas. A IBM oferece um exemplo de como uma revisão contínua da equidade pode ser na prática. Ela fornece às equipes ferramentas tangíveis, como o AI Fairness 360, para avaliar modelos em relação a várias medidas de equidade, identificar compromissos e executar verificações hipotéticas — por exemplo, observando como um limite mais rigoroso ou uma nova entrada de dados altera os resultados para diferentes grupos. O valor dessas ferramentas não é que elas declarem um modelo justo de uma vez por todas; elas mantêm a equidade inspecionável ao longo do tempo, para que os líderes possam ver qual versão da equidade o sistema reforça e revisar as suposições para que a equidade não se desvie por padrão. . . . Se você patrocina ou lidera projetos de contratação de IA, você é o responsável pela equidade em sua empresa, não a tecnologia. Sua função é garantir que várias visões de equidade sejam visíveis durante o projeto, a implementação e o uso; deixar claro quem dá autoridade ao sistema e com base em quê; e continuar avaliando qual versão de equidade o sistema reforça e o que é marginalizado. Os líderes que fazem isso bem observam uma colaboração mais harmoniosa entre o RH e os gerentes de linha de frente, mantêm perspectivas valiosas no processo e constroem alegações de justiça que realmente se sustentam. Aqueles que não fazem isso correm o risco de reduzir seu pool de talentos, marginalizar conhecimentos críticos e cair na automação cega. A lição mais ampla vai além da contratação. Muitas empresas investem pesadamente em IA, mas não conseguem gerar valor real com isso. A diferença entre sistemas que agregam valor e aqueles que decepcionam raramente é apenas o modelo. O que importa é se os líderes trazem as pessoas certas para a sala, fazem as perguntas certas e continuam testando suposições sobre a realidade do trabalho. Faça isso e você irá além do debate “Quem é mais justo, os humanos ou a IA?” para algo mais útil: definir o que “justo” deve significar aqui e agora e construir rotinas para mantê-lo assim.

Nova pesquisa sobre IA e equidade na contratação

Resumo.

Partner Center