IA et recrutement : éviter la discrimination algorithmique

Un modèle de tri de candidatures ne discrimine presque jamais par un critère interdit affiché en clair, il discrimine parce que le biais entre par quatre points précis que vous pouvez identifier, mesurer et refermer. Repérer ces quatre portes, c'est passer d'une IA qui reproduit vos inégalités passées à une IA dont vous savez prouver l'équité. Beaucoup de directions RH croient qu'il suffit de retirer le sexe et l'âge des CV pour être à l'abri. Le problème est plus subtil, et c'est justement parce qu'il est invisible qu'il est dangereux. Cet article vous montre d'où viennent réellement les biais d'un modèle de recrutement, et la méthode en quatre étapes pour les neutraliser et les documenter.

Le problème : une discrimination qui ne se voit pas

Une IA de recrutement apprend sur des exemples. Vous lui montrez des milliers de candidatures passées et les décisions qui ont suivi, et elle en déduit une règle pour trier les prochaines. Le piège tient en une phrase : si vos décisions passées favorisaient un profil, le modèle apprend à reproduire ce favoritisme, puis à l'amplifier, sans jamais l'écrire nulle part. La discrimination devient statistique, diffuse, et parfaitement défendable en apparence, jusqu'au jour où un candidat écarté demande sur quelle base.

Le scénario que je vois revenir : une équipe déploie un module de scoring livré avec son logiciel de recrutement, satisfaite du gain de temps. Personne ne sait sur quelles données il a été entraîné ni quels critères pèsent le plus. Six mois plus tard, on constate que les profils sélectionnés se ressemblent tous, et il est trop tard pour comprendre pourquoi. Le tri de candidatures est d'ailleurs un usage classé à haut risque par le règlement européen sur l'IA, ce qui vous oblige à savoir répondre. Pour situer précisément votre outil dans les niveaux de risque, appuyez-vous sur la méthode de classement des IA à haut risque.

D'où viennent vraiment les biais

Avant de corriger, il faut savoir où regarder. Le biais d'un modèle de tri n'arrive pas au hasard : il entre par quatre points d'entrée bien identifiés. Les connaître, c'est déjà la moitié du travail.

Les données historiques

C'est la source la plus puissante et la plus sous-estimée. Le modèle prend vos recrutements passés comme modèle de réussite. Si, par le passé, vos équipes techniques étaient majoritairement composées d'un même profil, le modèle conclura mécaniquement que ce profil est le bon, et écartera les autres à compétences égales. L'outil ne fait qu'obéir : il apprend le monde tel qu'il était, pas tel que vous voulez qu'il soit.

Les variables proxy

Retirer le sexe, l'âge ou l'origine d'un CV ne suffit pas, car d'autres informations en tiennent lieu. Le code postal peut trahir un quartier et donc une origine sociale, un prénom peut suggérer un genre ou une origine, un trou dans un parcours peut signaler un congé maternité. Ces variables apparemment neutres, corrélées à un critère protégé, sont des proxys : le modèle discrimine à travers elles sans jamais nommer le critère interdit.

La cible d'apprentissage mal choisie

Un modèle apprend à prédire quelque chose de précis, par exemple « ce candidat sera-t-il bien noté par son manager après un an ? ». Mais si ces évaluations internes étaient elles-mêmes biaisées, vous apprenez au modèle à reproduire un jugement déjà faussé. La cible que vous choisissez d'optimiser conditionne tout : viser la mauvaise mesure de la performance, c'est encoder l'inégalité dès la conception.

La boucle de rétroaction

Une fois en production, le modèle ne se contente pas de trier : il façonne les données qui l'entraîneront demain. En ne présentant qu'un type de profil aux recruteurs, il ne recueille de retours que sur ce profil-là, ce qui renforce sa conviction de départ. Sans surveillance, le système se referme sur lui-même et creuse l'écart qu'il aurait fallu combler.

La méthode en 4 étapes pour neutraliser et documenter le biais

À chaque source de biais correspond un geste de correction. Appliquez ces quatre étapes dans l'ordre, avant de généraliser l'outil à tous vos recrutements. Elles transforment une intuition d'équité en preuve vérifiable.

Étape 1 : cartographier les points d'entrée du biais

Reprenez les quatre sources ci-dessus et confrontez-les à votre outil réel. Sur quelles données a-t-il été entraîné, et ces données reflètent-elles des décisions passées déséquilibrées ? Quelles variables consomme-t-il, et lesquelles peuvent servir de proxy à un critère protégé ? Quelle cible optimise-t-il ? Est-il réentraîné sur ses propres sélections ? Si votre fournisseur ne sait pas répondre, c'est déjà un signal. Exigez par contrat la documentation des données d'entraînement et des variables utilisées.

Étape 2 : mesurer l'écart entre les groupes

Un biais qui ne se mesure pas ne se corrige pas. Constituez un jeu de test et comparez, à compétences équivalentes, les taux de sélection selon le sexe, la tranche d'âge ou l'origine supposée. L'écart le plus surveillé est celui des taux de sélection : une règle communément admise considère qu'un groupe sélectionné à moins de quatre cinquièmes du taux du groupe le plus favorisé signale une discrimination probable. Regardez aussi les faux négatifs, c'est-à-dire les bons candidats écartés à tort, groupe par groupe.

Étape 3 : corriger à la source

La correction dépend de la source. Contre les données historiques déséquilibrées, on rééquilibre le jeu d'entraînement ou on ajuste les seuils par groupe. Contre les proxys, on retire ou on neutralise les variables corrélées à un critère protégé, après les avoir identifiées à l'étape deux. Contre une cible mal choisie, on redéfinit ce que le modèle doit prédire pour viser la compétence réelle et non un jugement passé. Contre la boucle de rétroaction, on réinjecte volontairement de la diversité dans les profils présentés. Aucune de ces corrections ne remplace le garde-fou central : un humain garde la décision finale sur chaque candidature.

Étape 4 : documenter et surveiller dans le temps

Un test réussi une fois ne prouve rien de durable. Consignez dans un dossier de suivi les données d'entraînement, les variables retenues et écartées, les résultats de vos mesures d'écart et les corrections appliquées. Rejouez ces mesures à intervalles réguliers, car un modèle réentraîné dérive. Ce dossier est ce qui vous permet de répondre par des faits le jour où un candidat, un juge ou la CNIL vous interroge. Cette démarche prolonge la logique d'un audit de sécurité d'une application IA, appliquée cette fois à l'équité des sorties plutôt qu'à la surface d'attaque.

Un modèle de recrutement ne devient équitable ni par bonne intention ni par le simple retrait des critères interdits. Il le devient quand vous savez d'où vient chaque biais, que vous le mesurez, et que vous pouvez le prouver.

Ce que vous risquez à laisser le biais en place

La discrimination à l'embauche se sanctionne sur trois fronts qui se cumulent : le droit du travail, qui interdit la discrimination directe comme indirecte, le RGPD, qui encadre les décisions automatisées sur une personne, et le règlement sur l'IA, qui impose gestion des risques et documentation pour un usage à haut risque. Au-delà de l'amende, le coût le plus lourd est réputationnel : une candidature écartée pour une mauvaise raison, rendue publique, abîme durablement votre marque employeur. Cet article se concentre sur les biais ; pour le cadre juridique complet du tri de CV, je détaille la marche à suivre dans mon guide sur un tri de CV par IA qui reste légal.

Questions fréquentes

Retirer le sexe et l'âge des CV suffit-il à éviter la discrimination ?

Non. D'autres variables, comme le code postal, le prénom ou un trou dans le parcours, restent corrélées à ces critères et permettent au modèle de discriminer sans les nommer. C'est le mécanisme des variables proxy, et il faut les mesurer pour les neutraliser, pas seulement masquer les critères évidents.

Comment savoir si mon outil de tri discrimine ?

En le testant sur des groupes. Comparez les taux de sélection à compétences équivalentes, surveillez les bons candidats écartés à tort et le poids des variables proxy dans les décisions. Un outil qui ne peut pas être audité de cette façon est un outil que vous ne devriez pas laisser décider sur des personnes.

Le biais vient-il toujours des données ?

Le plus souvent, mais pas seulement. Les données historiques sont la première source, mais une cible d'apprentissage mal choisie ou une boucle de rétroaction non surveillée créent un biais même avec des données de départ équilibrées. C'est pourquoi il faut examiner les quatre points d'entrée, pas uniquement le jeu d'entraînement.

Suis-je responsable si le modèle vient d'un éditeur ?

Oui, pour l'usage que vous en faites. En tant que déployeur, vous répondez du choix de l'outil, de sa supervision et de l'absence de discrimination dans vos sélections. L'éditeur porte ses obligations de fournisseur, mais cela ne vous décharge pas des vôtres, d'où l'importance de contractualiser la transparence sur les données et les tests de biais.

À quelle fréquence retester le modèle ?

Avant tout déploiement, puis à intervalles réguliers, et systématiquement après chaque réentraînement. Un modèle évolue avec les données qu'il consomme, et un test valable un jour peut ne plus l'être après une mise à jour. La surveillance continue fait partie de la conformité, pas d'un contrôle ponctuel.

Plutôt que de deviner, vous pouvez situer votre exposition lors d'un premier échange: on regarde votre outil de tri réel, les variables qu'il consomme et vos mesures d'équité, sans engagement.

Cet article a une visée pédagogique et ne constitue pas un conseil juridique. Chaque situation mérite une analyse au cas par cas.