Les biais de l'IA dans le recrutement : un risque caché que les entreprises négligent 

Nous savons que 72 % des responsables des ressources humaines estiment que l'IA peut reproduire ou amplifier les préjugés humains. Pourtant, la plupart d'entre eux continuent d'utiliser de plus en plus l'IA dans le cadre du recrutement. Ce n'est pas nécessairement une contradiction, mais cela témoigne d'une mauvaise compréhension du fonctionnement réel des biais liés à l'IA.

La plupart des décisions d'adoption de l'IA reposent sur l'hypothèse selon laquelle un outil conçu pour être objectif le sera effectivement. Mais les bonnes intentions ne pèsent pas lourd lorsque les plateformes amplifient les biais préexistants et développent leurs propres biais. C'est là que réside, dans la pratique,le fossé de maturité de l'IA: l'adoption de ces outils devance la mise en place des mécanismes de gouvernance nécessaires pour les utiliser de manière équitable.

On parle de partialité de l'IA dans le recrutement lorsque les données, la conception du modèle ou l'utilisation opérationnelle d'un outil d'IA produisent des résultats qui désavantagent systématiquement certains candidats en raison de caractéristiques sans rapport avec leurs performances professionnelles. Elle se distingue de la partialité humaine sur un point essentiel : alors que la partialité humaine est aléatoire et visible, la partialité algorithmique est stable, reproductible et souvent invisible jusqu'à ce qu'elle ait déjà influencé des milliers de décisions. 

Pourquoi l'IA peut à la fois réduire et accroître les préjugés dans le recrutement 

L'IA permet d'éliminer certains types de biais dans le processus de recrutement. Elle applique les mêmes critères à tous les candidats, évalue les réponses à l'aide d'un algorithme unique et élimine les variations liées à la fatigue des recruteurs et aux jugements pris en une fraction de seconde. Pour les organisations où l'incohérence des décisions humaines a été la principale cause de résultats inéquitables, cette cohérence constitue une avancée. 

Mais cohérence et équité ne sont pas synonymes. Un algorithme formé à partir de données historiques biaisées appliquera ces schémas de manière systématique – à chaque candidat, pour chaque poste, dans toutes les décisions de recrutement prises par l'entreprise. Il ne corrige pas les biais présents dans ses données d'apprentissage. Il les intègre, puis les reproduit à plus grande échelle. 

Notre récente enquête a révélé que les responsables RH estiment que l'IA peut à la fois renforcer les préjugés et les réduire. Et ils ont raison : tout dépend de la manière dont l'outil a été conçu et de la façon dont il est géré. Pour une vue d'ensemble plus complète des opportunités et des risques que l'IA présente pour les RH, consultezl'article « Les promesses et les pièges de l'intégration de l'IA dans les RH ». 

Comment les préjugés s'immiscent dans les systèmes de recrutement basés sur l'IA 

Les préjugés n'apparaissent pas d'un seul coup dans les systèmes d'IA. Ils s'introduisent à trois étapes précises : 

• C'est dans les données.L'IA apprend à partir des informations historiques : décisions d'embauche passées, évaluations de performance antérieures, tendances en matière de promotion. Si cet historique reflète des préjugés structurels quant aux personnes embauchées, formées et fidélisées, le modèle interprète ces tendances comme des indicateurs de réussite. Un outil formé sur dix ans de données de recrutement provenant d’une organisation qui a promu des hommes de manière disproportionnée apprendra que les caractéristiques de ces hommes sont des indicateurs de performance. Ce n’est pas le cas. Ce sont des indicateurs indirects des décisions prises par les personnes qui les ont promus.

• Dans le modèle.Même avec des données d'apprentissage non biaisées, les modèles peuvent identifier des variables indicatrices – des facteurs qui sont en corrélation avec des caractéristiques protégées sans les mentionner directement. Les codes postaux peuvent être en corrélation avec l'origine ethnique. L'université fréquentée peut être en corrélation avec le milieu socio-économique. Le vocabulaire et la structure des phrases sont souvent en corrélation avec ces deux éléments. Un modèle optimisé pour la précision prédictive utilisera ces signaux s'ils améliorent ses résultats, qu'ils soient ou non pertinents pour l'emploi. 

• Dans l'interaction.Les consignes et les critères reflètent des a priori sur ce qui est considéré comme « bon ». Un recruteur qui demande à un outil d’IA de trouver des candidats similaires aux meilleurs éléments de l’entreprise privilégie les caractéristiques que ces derniers partagent – y compris celles qui n’ont rien à voir avec le poste. L’instruction semble neutre, mais le résultat ne l’est souvent pas. Et comme le biais provient de la consigne plutôt que du modèle, il peut être invisible, même pour les personnes qui utilisent l’outil. 

Pourquoi les biais algorithmiques sont-ils plus difficiles à détecter que les biais humains ?

Les préjugés humains sont variables. Un recruteur partial a de bons et de mauvais jours, prend des décisions différentes selon son humeur et adopte un comportement suffisamment irrégulier pour être remis en question ou ignoré. Les préjugés algorithmiques, eux, sont constants. Les mêmes données d'entrée produiront toujours les mêmes résultats, à chaque fois, pour tous les candidats traités par le système. 

C'est justement cette stabilité qui rend la situation dangereuse. Un algorithme biaisé ne se trahit pas par des décisions erronées ponctuelles, mais par des résultats globaux qui ne deviennent visibles qu'à grande échelle. Lorsque cette tendance apparaît dans les données relatives au recrutement, elle a déjà influencé des centaines, voire des milliers de décisions individuelles. Chacune de ces décisions semblait raisonnable prise isolément, mais aucune n'était le fruit du hasard. 

Une surveillance active est la seule défense fiable. C'est pourquoi Assessioutilise des données démographiques pour identifier et corriger les effets négatifs dans l'ensemble de nos évaluations. Après tout, attendre qu'une tendance se dessine dans les résultats revient à attendre que le mal soit déjà fait. 

Exemples concrets de biais liés à l'IA dans le recrutement : HireVue et la présélection des CV par les modèles de langage (LLM)

En 2020, le système d'entretien vidéo basé sur l'IA de HireVue a fait l'objet de critiques persistantes, car il analysait les expressions faciales et le langage corporel des candidats pour en déduire des traits de caractère pertinents pour le poste.  

Dans un cas avéré, une employée mise en congé sans solde s'est vu refuser son poste lorsqu'elle a postulé à nouveau : ses réponses avaient obtenu de bons résultats, mais son langage corporel avait été jugé médiocre. L'outil avait pris ce genre de décisions de manière systématique et à grande échelle avant que quiconque ne s'en aperçoive. HireVue a supprimé la fonctionnalité d'analyse faciale en 2021, reconnaissant que la méthode scientifique sur laquelle elle reposait était erronée. 

Une étude réalisée en 2025 par des chercheurs de l'Université de Hong Kong et de l'Académie chinoise des sciences a évalué cinq grands modèles linguistiques de premier plan dans le cadre de la présélection de CV. Les cinq modèles ont révélé un biais systématique : ils attribuaient des notes plus élevées aux candidates qu'aux candidats, et attribuaient systématiquement des notes plus faibles aux candidats noirs qu'aux candidats blancs, à qualifications égales.  

Les chercheurs ont constaté que ces biais semblaient profondément ancrés dans la manière dont les modèles évaluent les candidats – et que certains avaient probablement été introduits ou renforcés lors des tentatives de suppression des biais. Des outils explicitement conçus pour réduire les biais avaient en effet intégré de nouveaux schémas dans le processus. 

Comment l'IA structurée permet de réduire les biais dans le recrutement 

La solution au problème des biais liés à l'IA ne consiste pas à renoncer complètement à l'IA, mais à mettre en place des processus d'IA fondés sur une véritable science psychométrique. Une IA structurée ne se contente pas d'émettre des hypothèses sur l'adéquation à un poste, mais fonde ses décisions sur des données validées qui ont été testées pour confirmer qu'elles permettent réellement de prédire les performances. 

Trois normes définissent comment cela se traduit concrètement : 

• Validité prédictive: les résultats de l'outil sont en corrélation avec les performances réelles des candidats dans le poste, et non avec des variables de substitution qui servent simplement à distinguer les candidats obtenant les meilleurs scores de ceux obtenant les moins bons. 
• Fiabilité: un même candidat obtiendrait un résultat constant dans le temps, reflétant des caractéristiques stables liées à l'emploi plutôt que des circonstances passagères. 
• Pertinence– l'évaluation ne porte que sur les éléments pertinents pour le poste et fait l'objet d'un contrôle visant à détecter tout effet discriminatoire parmi les différents groupes démographiques au sein de la population de candidats. 

On peut avoir confiance en un outil qui répond à ces trois critères pour mesurer ce qu'il prétend mesurer, et ce, de manière cohérente et sans désavantager systématiquement certains groupes de candidats au cours du processus. 

Cinq façons de prévenir les biais liés à l'IA dans le recrutement 

Utilisez des données validées. Avant d'être utilisées pour construire ou calibrer un modèle, les données d'apprentissage doivent être vérifiées afin de s'assurer qu'elles sont représentatives en termes de genre, d'âge, d'origine ethnique et d'autres caractéristiques protégées. Les données historiques relatives au recrutement ne constituent pratiquement jamais un point de départ fiable sans intervention préalable. 

1. Surveillez en permanence les biais.Les tests préalables au lancement vous indiquent si un outil était impartial au moment de son déploiement. Ils ne vous indiquent pas s’il reste impartial à mesure que le vivier de candidats évolue, que le poste change ou que le modèle est mis à jour. L’analyse des effets indésirables doit être une pratique continue, et non une simple validation ponctuelle. 

2. Supprimez les données démographiques. Toutedonnée dont le modèle n’a pas besoin pour prédire les performances professionnelles est susceptible d’introduire un risque de biais. Les noms, codes postaux, établissements d’enseignement et photos doivent être supprimés des données d’entrée, sauf s’il existe une raison spécifique et pertinente pour le poste justifiant leur inclusion. Même dans ce cas, les résultats doivent faire l’objet d’un test visant à détecter tout impact disparate. 

3. Prévoyez un contrôle humain. L'IAdoit mettre en évidence les données et les recommandations. Ce sont les humains qui doivent prendre les décisions finales, en particulier aux étapes cruciales du processus de recrutement. Une organisation où l'IA peut rejeter des candidats sans aucun examen humain a supprimé le contrôle susceptible de détecter une erreur systématique avant qu'elle ne prenne de l'ampleur. 

4. Veillez à garantir la traçabilité.Si vous n’êtes pas en mesure d’expliquer à un candidat ce que l’outil a évalué, pourquoi ces facteurs ont été choisis et comment son résultat a été obtenu, cela signifie que l’outil n’est pas prêt à être utilisé de manière responsable. La traçabilité n’est pas seulement une exigence réglementaire prévue par la loi européenne sur l’IA ; c’est la norme qui oblige les fournisseurs à justifier leur méthodologie plutôt que de se retrancher derrière des algorithmes propriétaires. 

Pour les outils fondés sur des données psychométriques validées, ces exigences ne sont pas nouvelles : elles constituent le point de départ. La question n’est pas de savoir si vos outils de recrutement basés sur l’IA sont capables de respecter cette norme. Il s’agit plutôt de déterminer s’ils disposent de la structure et de la gouvernance nécessaires pour garantir qu’ils continueront à respecter ces normes indéfiniment. 

👉Cetarticle s'appuie sur les recherches issues de « The Maturity Gap », le guide d'Assessio fondé sur des données concernant l'adoption de l'IA, la gouvernance et la confiance dans le domaine des ressources humaines. Téléchargez le rapport complet pour découvrir ces conclusions en détail. Téléchargez « The Maturity Gap » ici.