Outils numériques en entreprise : une question d’éthique

Les entrepreneurs doivent arrimer l’utilisation des nouvelles technologies avec leurs valeurs.

Le recours à l’intelligence artificielle est encore embryonnaire dans les processus d’embauche des entreprises, mais les technologies de l’information et l’analyse des mégadonnées à l’aide d’algorithmes, elles, prennent de plus en plus de place.

Il faut toutefois garder en tête que ces outils peuvent reproduire des biais et soulever de sérieuses questions éthiques, prévient Dominic Martin, professeur au Département d’organisation et ressources humaines de l’École des sciences de la gestion de l’UQAM et expert en éthique de l’intelligence artificielle. « Les biais ne sont pas fondamentalement bons ou mauvais, mais ils existent et il faut en être conscient », dit-il.

Certains biais sont faciles à contourner, tels ceux liés au genre, à l’origine ethnique ou à l’âge, et il s’agira de ne pas fournir ce genre de données à l’algorithme pour les éviter.

Une question de corrélation

D’autres types de discrimination sont toutefois beaucoup plus pernicieux.

Prenons l’exemple d’un cabinet d’avocats qui a recours à un algorithme pour soutenir son processus de recrutement. La firme fournira toutes les données liées à ses embauches des dernières années, dont les photos des candidats. Or, si les dirigeants ont eu tendance par le passé à choisir des hommes de plus de 50 ans au crâne dégarni, l’algorithme reproduira cette discrimination capillaire, même si elle n’est pas corrélée avec la performance au travail.

Ce type de biais est plus difficile à éviter, car le cabinet d’avocats ne pensera probablement pas que la variable « chevelure » puisse être un motif de discrimination.

Un problème semblable surgit si on confie à un algorithme la tâche de choisir un candidat susceptible de conserver son poste pendant cinq ans. Un tel outil risque de discriminer les femmes âgées de 20 à 30 ans, puisqu’elles sont plus nombreuses à avoir pris récemment un congé parental que les femmes plus âgées ou les hommes. Or, comme il n’est pas éthique d’exclure des candidates sur cette base, il faut s’assurer d’encadrer l’algorithme en question, et ne pas lui faire confiance aveuglément.

Selon Dominic Martin, la première étape pour les entrepreneurs est de reconnaître l’existence de ces biais inconscients. Ensuite, il s’agira d’utiliser des outils d’analyse pour déterminer en amont quelles corrélations sont pertinentes. Le cabinet d’avocats pourrait ainsi apprendre à l’algorithme à ne pas tenir compte de la chevelure d’un candidat et à accorder plutôt de l’importance à son expérience.

Cet encadrement est d’autant plus indiqué que l’adoption de ces outils numériques survient au moment où plusieurs entreprises remettent en question leurs valeurs pour mieux les arrimer à l’époque.

« Au bout du compte, l’entreprise doit mener une réflexion profonde sur son rôle dans la collectivité, et décider quelles sont ses valeurs fondamentales », conclut Dominic Martin.


Ce contenu a été produit par Mishmash Studio de marques. Les journalistes de L’actualité n’ont pas été impliqués dans la production de ce contenu.

Laisser un commentaire

Les commentaires sont modérés par l’équipe de L’actualité et approuvés seulement s’ils respectent les règles de la nétiquette en vigueur. Veuillez nous allouer du temps pour vérifier la validité de votre commentaire.