« IA vs RH » par Sia : IA et discrimination, de l'angle mort à la maîtrise

Et si vos process RH produisaient des effets discriminatoires sans que personne ne s’en aperçoive ? Pas par malveillance. Par habitude. Par accumulation de micro-décisions que personne n’a jamais remises en question. Si jusqu’ici, les biais paraissaient moins visibles, l’IA leur donne une tout autre portée : elle les accélère, les généralise et surtout, les habille d’une apparence d’objectivité.

En droit français, la discrimination est une différence de traitement fondée sur un critère prohibé (origine, sexe, âge, état de santé, activité syndicale…) dans un domaine protégé comme l’emploi (1). La sociologie élargit cette approche : à situation comparable, certaines personnes sont traitées moins favorablement, dans un processus social d’inégalisation (2).

Explicite ou tacite, intentionnelle ou non, directe ou indirecte, la discrimination prend des formes multiples et les plus dommageables sont rarement les plus visibles. Elle se niche dans des routines, des critères d’évaluation ou des habitudes managériales en apparence neutres.

Prenons par exemple, un collaborateur senior reconnu pour son expertise. Depuis que l’entreprise valorise « l’agilité » et « l’appétence digitale », ses évaluations stagnent. Les projets stratégiques lui échappent, les formations aux nouveaux outils se font plus rares. Rien n’est décidé contre lui. Rien n’est décidé pour lui non plus.

Au cœur de ces mécanismes, on retrouve les biais cognitifs : ancrage mental, effet de projection, influence d’une opinion dominante, stéréotypes, effet d’attente… Le problème ne réside pas dans le fait d’en avoir — car nous en avons tous — le risque apparaît lorsqu’ils ne sont ni identifiés, ni discutés, ni corrigés et qu’ils finissent par structurer des décisions importantes. Les biais cognitifs ne constituent pas, en eux-mêmes, une discrimination. En revanche, lorsqu’ils se traduisent dans les décisions ou les pratiques de l’entreprise, ils peuvent conduire à des différences de traitement, voire à des discriminations, notamment indirectes.

C’est précisément là que l’intelligence artificielle change la donne. Elle ne crée pas les biais : elle apprend à partir de données, de décisions et de pratiques humaines, nécessairement imparfaites. Le risque n’est donc pas qu’elle devienne soudainement discriminatoire mais qu’elle reproduise, amplifie et légitime des mécanismes déjà présents dans l’organisation. La question n’est pas de savoir si l’IA discrimine mais quels biais elle risque d’industrialiser.

Tout le monde utilise l’IA, directement ou indirectement, souvent sans le savoir : elle s’est glissée dans les messageries, les suites bureautiques, les plateformes de recrutement, les logiciels de formation. Un candidat qui envoie son CV ne sait plus s’il sera lu par un recruteur ou par un algorithme. Un outil de résumé de réunion peut influencer la manière dont une contribution est retenue ; un outil de recrutement peut valoriser certains parcours plutôt que d’autres. C’est cette discrétion qui rend l’IA difficile à contester et la vigilance, d’autant plus nécessaire.

Derrière chaque résultat se trouvent des choix humains : paramètres de configuration des concepteurs, prompt des utilisateurs… Identifier les candidats ayant le « plus fort potentiel » ou les salariés les « plus performants » suppose déjà de définir ces notions et cela est rarement neutre.

Le danger est alors double : reproduire des inégalités existantes et leur donner une apparence d’objectivité. Ce qui relevait hier d’un choix humain peut demain apparaître comme la conclusion neutre d’un algorithme. Par exemple, des sites de traduction traduisent aujourd’hui spontanément « a nurse » par « une infirmière » et « a doctor » par « un docteur ». Une erreur statistique pourra écarter un profil atypique pourtant compétent. Une hallucination algorithmique pourra attribuer à tort une compétence ou pourra inventer une règle RH. Toutes les recommandations défavorables d’une IA ne sont pas des discriminations mais toutes doivent pouvoir être comprises, vérifiées et corrigées. Le vrai risque est de confondre une réponse convaincante avec une réponse fiable.

L’IA doit éclairer la décision, pas la prendre. Les conséquences sont pourtant concrètes.

D’un point de vue juridique, une recommandation algorithmique ne constitue pas une cause d’exonération. Lorsqu’un outil contribue à une décision de recrutement, de promotion, de rémunération ou de formation, l’employeur demeure responsable de ses effets. Une discrimination produite ou amplifiée par un système d’IA reste une discrimination. À cela s’ajoutent les nouvelles exigences de l’AI Act, qui imposent une maîtrise accrue des systèmes utilisés dans les processus RH.

D’un point de vue social, les salariés acceptent difficilement d’être évalués ou orientés par des outils dont ils ne comprennent ni le fonctionnement, ni les critères. Lorsque les décisions apparaissent opaques, c’est la confiance envers les RH, le management et le dialogue social qui peut être fragilisée.

D’un point de vue réputationnel, dans un contexte où les engagements en matière de diversité, d’inclusion et d’éthique sont particulièrement scrutés, un soupçon de discrimination algorithmique peut rapidement devenir un sujet médiatique, syndical ou interne. L’enjeu n’est pas seulement de respecter la réglementation mais de préserver la cohérence entre les valeurs affichées par l’entreprise et les pratiques qu’elle met en œuvre.

Face à ces risques, il sera difficile d’éviter durablement le sujet. La pression économique et concurrentielle pousse à l’automatisation. L’enjeu n’est donc plus de savoir si l’IA sera utilisée mais comment elle le sera. Refuser l’IA par principe est irréaliste. L’utiliser sans cadre constitue un risque majeur.

Les organisations qui tireront leur épingle du jeu ne seront pas celles qui déploieront le plus d’outils mais celles qui sauront s’en saisir avec discernement.

Pour ce faire, quatre leviers clés doivent être explorés pour favoriser une IA éthique et inclusive :

1- L’audit des outils pour passer de l’angle mort à la maîtrise

Avant de réguler les usages, encore faut-il savoir ce que l’on utilise. On ne gouverne pas ce que l’on ne connaît pas.

Le premier levier consiste à recenser, avec les équipes techniques, tous les outils intégrant de l’IA.

Une fois cette cartographie établie, l’audit peut porter sur quatre questions simples : Les résultats produits sont-ils équitables et vérifie-t-on régulièrement qu’ils le restent ? Un humain garde-t-il toujours la main sur les décisions importantes ? Mesure-t-on la fiabilité de l’outil dans le temps ? L’entreprise est-elle capable d’expliquer les raisons qui ont conduit à cette recommandation et de la justifier au regard de ses propres critères RH ?

Cet exercice n’est pas un sujet technique. Il engage les RH, le juridique, les représentants du personnel et la direction. C’est un acte de gouvernance à part entière. La plupart des entreprises savent combien elles ont de logiciels RH. Très peu savent combien d’IA influencent déjà leurs décisions.

2- Le dialogue social pour coconstruire

Les usages RH de l’IA ont directement des impacts sur les salariés : ils doivent donc être discutés, expliqués et testés avec les représentants du personnel.

A ce titre, le droit du travail impose déjà l’information-consultation du CSE sur l’introduction de nouvelles technologies (3). Le tribunal judiciaire de Nanterre va plus loin, en confirmant que ces prérogatives s’appliquent dès les phases pilotes (4). L’objectif n’est pas de transformer les élus en experts techniques mais de leur permettre de comprendre.

Plusieurs entreprises en ont déjà fait un levier concret de régulation. Le groupe Apicil a inscrit dans un accord la reconnaissance explicite du risque de « discrimination algorithmique », assortie d’un cadre d’éthique numérique et d’un dispositif de signalement (5). La Maif impose que toute décision RH « impliquante » reste fondée sur une appréciation humaine (6). Orange structure une démarche d’« IA inclusive » avec évaluation systématique des biais de genre et audits post-déploiement (7).

Ces accords partagent une même conviction : l’IA en RH n’est pas qu’un sujet technique, c’est un objet de gouvernance sociale. Plus les représentants du personnel sont associés en amont, plus l’entreprise sécurise ses usages et crée de la confiance.

3- La charte éthique d’IA pour donner le cap

La charte éthique d’IA ne supprime pas les biais mais elle oblige à dire quels choix l’entreprise est prête à accepter et lesquels elle refuse de déléguer à l’IA. Parmi les sept exigences définies par la Commission européenne, celle de « diversité, non-discrimination et équité » est particulièrement structurante pour les RH (8). La charte de France Travail rappelle, par exemple, que les systèmes d’IA peuvent reproduire ou générer des discriminations, et soulignent l’importance de maîtriser les biais dans le temps (9).

Une charte utile doit prévoir des engagements concrets : contrôle humain, transparence sur les données, tests de biais, possibilité de recours, vigilance sur les proxys discriminatoires ou encore diversité des équipes qui conçoivent les outils… Pour les RH, elle devient une boussole opérationnelle : Quels usages sont acceptables ? Sous quelles conditions ? Avec quels garde-fous ?

4- La formation pour comprendre

La majorité des risques liés à l’IA ne proviennent pas seulement de la technologie mais surtout des usages qui en sont faits. Former ne se limite donc pas à l’apprentissage des fonctionnalités : il s’agit de développer une culture critique. Savoir interroger un résultat, identifier un raisonnement discutable, remettre en question une recommandation automatisée devient une compétence professionnelle à part entière. Cette sensibilisation doit concerner tous les niveaux de l’organisation : collaborateurs, managers, RH et représentants du personnel.

L’IA continuera à progresser. Les outils seront plus performants, plus rapides et plus présents dans les décisions du quotidien. La meilleure protection contre les biais algorithmiques ne réside pas uniquement dans la technologie. Elle réside dans la capacité des organisations à continuer de questionner les décisions qu’elles automatisent. Aucun algorithme ne remplacera (et ne doit remplacer) le discernement humain, la compréhension d’un contexte ou la richesse d’un parcours atypique. Car derrière chaque donnée, chaque CV, chaque évaluation se trouve une personne dont le parcours ne se résume jamais entièrement à ce qu’un algorithme est capable de mesurer.

—

(1) Loi nº 72-546 du 1 juillet 1972 relative à la lutte contre le racisme ; Articles L1132-1 et suivants du Code du travail

(2) Bereni, Laure et Chappe, Vincent-Arnaud (2011), « La discrimination, de la qualification juridique à l’outil sociologique », Politix, nº 94(2), p. 7-34.

(3) Article L. 2312-8 du Code du travail

(4) TJ Nanterre, ordonnance du 14 février 2025, nº RG 24/0145

(5) Accord sur la diversité et l’inclusion au sein du groupe Apicil (2025-2028), 18 févr. 2025

(6) Maif, « Accord relatif à l’établissement d’une démarche de dialogue social dans le cadre du développement de l’IA au sein de MAIF », mai 2026

(7) Accord portant sur l’égalité professionnelle entre les femmes et les hommes, l’équilibre vie privée vie professionnelle et la lutte contre les discriminations pour la période 2025-2027 au sein de l’UES Orange, 10 déc. 2025

(8) Commission européenne, « Lignes directrices en matière d’éthique pour une IA digne de confiance », avril 2019

(9) Pôle emploi, « Charte de Pôle emploi pour une intelligence artificielle éthique », 2022

—