L’intelligence artificielle peut aider à éliminer les préjugés inconscients lors du recrutement pour pourvoir des postes techniques. Mais cela peut-il être une arme à double tranchant pour les leaders technologiques lorsqu’il s’agit de promouvoir la diversité et l’inclusion ?
L’utilisation de l’intelligence artificielle (IA) se développe rapidement, infiltrant des domaines d’activité qui ont traditionnellement exigé des humains qu’ils entreprennent des tâches souvent de bas niveau. Avec cela vient le potentiel de l’intelligence artificielle pour aider à améliorer la diversité et l’inclusion, en utilisant des algorithmes pour arriver à des décisions basées sur des faits ou des statistiques objectifs plutôt que sur la subjectivité ou les préjugés.
Un domaine évident est celui du recrutement, où l’IA a le potentiel d’aider les organisations à embaucher les meilleurs candidats, quels que soient leurs antécédents, ou à améliorer la représentation de groupes particuliers.
« Seulement 26% des personnes travaillant dans l’intelligence artificielle sont des femmes »
« Lorsqu’elle est utilisée de manière appropriée et contrôlée par diverses équipes qui peuvent détecter les préjugés, l’IA peut conduire à une prise de décision beaucoup plus objective concernant les nouvelles recrues », déclare Jill Stelfox, présidente exécutive et PDG de la société de logiciels Panzura.
« Lorsqu’un humain scanne un CV, il est beaucoup plus susceptible d’accorder une importance disproportionnée à des éléments tels que le sexe, l’âge, l’origine ethnique ou l’origine d’un candidat. L’IA a le potentiel de résoudre ce problème, en sélectionnant plutôt les candidats en fonction de leur expérience, de leurs qualifications et d’autres facteurs plus objectifs. »
Cela peut également aider à garantir que les gens sont payés équitablement, suggère Marie Angselius-Schönbeck, responsable de l’impact et responsable des communications d’entreprise au sein de la société d’IA conversationnelle Artificial Solutions.
« Si les systèmes apprenaient à ignorer les données relatives au sexe, à la race ou à l’orientation sexuelle, en examinant plutôt de manière neutre l’éducation, les compétences et l’expérience d’un candidat et en les comparant aux employés existants de toutes les données démographiques, cela pourrait aider à réduire l’écart de rémunération en matière de diversité pour de nouveaux employés », dit-elle.
Qu’est-ce que la diversité dans l’intelligence artificielle ?
L’IA peut également être utilisée pour promouvoir la diversité sur le lieu de travail de manière plus générale. «Cela peut être un outil important pour garantir que vos processus de main-d’œuvre incluent une optique de diversité et d’inclusion, car il jette les bases de décisions de main-d’œuvre basées sur les compétences qui, en fin de compte, uniformisent les règles du jeu pour tout le monde», déclare Jeroen Van Hautte, co-fondateur et directeur de la technologie chez TechWolf, société de planification stratégique de la main-d’œuvre basée sur l’IA.
« Si les décisions relatives à la main-d’œuvre sont prises uniquement en fonction des compétences que vous possédez, vous ne pouvez pas être exclu, consciemment ou inconsciemment, du recrutement, des promotions ou d’autres opportunités de carrière. »
Cela pourrait conduire à des systèmes d’IA suggérant que quelqu’un pourrait être un bon candidat pour un rôle particulier, ajoute-t-il, éloignant les promotions internes de l’intuition ou de la dépendance à l’égard de qui les gens connaissent.
L’utilisation de l’IA peut également avertir les entreprises du potentiel de prendre de mauvaises décisions.
« Par exemple, les outils alimentés par l’IA peuvent être utilisés pour identifier un langage biaisé dans les réunions d’affaires, ou pour s’assurer que la fixation d’objectifs est juste et équitable, en fonction des performances des employés précédents occupant un rôle donné », suggère Stelfox. « Les préjugés sont insidieux et peuvent avoir un impact sur tous les aspects de la gestion et de la productivité, et l’IA peut aider à résoudre ce problème et à garantir qu’aucun employé n’est traité injustement. »
Comment l’IA permet-elle la diversité et l’inclusion ?
Au fil du temps, cela peut commencer à changer la façon de penser et la culture d’entreprise, estime Angselius-Schönbeck. « En tirant parti de la théorie du nudge, un assistant d’intelligence artificielle conversationnel pourrait aider les entreprises à promouvoir la diversité et l’inclusion en posant des questions et en proposant des invites qui encouragent les utilisateurs à déterminer s’ils ont pris en compte différents groupes ou scénarios dans le cadre de leur processus de prise de décision », dit-elle. . « Les coups de pouce cumulés favorisent le développement de nouvelles habitudes. Et dans ce cas, cela pourrait aider à empêcher les préjugés inconscients de se glisser dans les décisions.
Pourtant, si l’IA a le potentiel d’aider les organisations de différentes manières, son utilisation comporte également des risques. L’un des problèmes est le manque de diversité dans l’industrie de l’IA elle-même. Le Forum économique mondial Rapport mondial sur l’écart entre les sexes 2020 a révélé que seulement 26% des personnes travaillant dans le secteur sont des femmes, tandis que le rapport BCS Insights 2021 suggère que seulement 15% des personnes travaillant dans le secteur de la technologie dans son ensemble sont issues de minorités ethniques et que seulement 10% ont un handicap.
Angselius-Schönbeck pense qu’un manque de diversité dans l’espace de l’IA peut avoir trois effets négatifs sur sa conception et son utilisation. « Premièrement, l’expérience de l’IA n’est alors pas représentative », dit-elle. « Par exemple, une IA conversationnelle entraînée uniquement par des hommes ne reflétera pas les styles de conversation des femmes. Deuxièmement, cela risque d’introduire des biais qui pourraient avoir un impact négatif sur certains groupes. Et enfin, cela signifie finalement que l’IA est défectueuse. Qu’elle soit conçue pour un usage grand public ou en entreprise, le manque de diversité de l’IA signifie qu’elle ne fonctionne pas aussi bien que des solutions comparables qui privilégient un processus de conception plus inclusif.
L’IA peut-elle être utilisée pour promouvoir la diversité sur le lieu de travail ?
Aniela Unguresan, fondatrice de EDGE Certified Foundation – la méthodologie d’évaluation et la norme de certification des entreprises pour l’égalité des sexes – estime que si l’IA peut aider à identifier et à réduire l’impact des préjugés humains, « elle peut également aggraver le problème en intégrant et en déployant des préjugés à échelle dans des domaines d’application sensibles ».
« Il existe une solution », déclare Unguresan. « Les organisations peuvent embaucher diverses personnes pour concevoir des processus corrects, qui sont supervisés par un responsable de la diversité qui vérifie les logiciels en cours de développement pour détecter les préjugés et crée des applications et des processus qui éliminent les préjugés. »
Des lignes directrices et des cadres sont également nécessaires pour garantir que l’IA est développée pour diverses communautés, déclare Anton Nazarkin, directeur du développement mondial chez VisionLabs, fournisseur de reconnaissance faciale alimenté par l’IA. « Les créateurs de la technologie de l’IA peuvent entreprendre des discussions avec des groupes de travail de diverses communautés, ce qui permet de vraiment comprendre l’impact de la technologie de l’IA », dit-il. « Les organisations peuvent également utiliser des outils pour s’assurer que les ensembles de données respectent un niveau minimum de diversité. Ce n’est qu’en combinant ces approches que nous pourrons commencer à éliminer les biais de l’IA. »
Il existe également un risque que l’IA soit conçue pour aider à résoudre un problème particulier, mais ne soit pas mise à jour pour s’assurer qu’elle n’ira pas trop loin dans l’autre sens.
« L’IA fonctionnera sur la base des règles sur lesquelles elle est formée », souligne Angselius-Schönbeck. « Par exemple, si une entreprise souhaite améliorer la diversité de ses talents, un algorithme peut être formé pour prioriser certains genres ou groupes ethniques. Cependant, à moins qu’elle ne soit définie pour soutenir une entreprise avec un objectif de quotas spécifique, une telle mise en œuvre peut toujours ne pas être appropriée. Au fur et à mesure que l’IA apprend à « dé-prioriser » certains candidats, elle peut ne jamais réapprendre à les évaluer « équitablement » lorsqu’il n’est plus nécessaire de prioriser certains groupes. »
Une épée à double tranchant
Pour l’instant, il semble que l’utilisation de l’intelligence artificielle pour encourager la diversité restera une arme à double tranchant. « Nous devons être prudents avant d’encourager une adoption plus généralisée de l’IA à moins qu’il n’y ait à la fois explicabilité et responsabilité », affirme Jesse Shanahan, directeur de la technologie de la start-up de fitness numérique Another Round. « Il existe déjà un problème commun de manipulation de données et de modèles pour justifier un résultat particulier. L’IA éthique devrait jouer davantage un rôle de soutien, mais ne jamais remplacer le décideur humain.
En savoir plus sur la diversité et l’inclusion
Pourquoi la diversité est importante lors du recrutement de personnel en cybersécurité – Placer la diversité au cœur de votre équipe de cybersécurité vous aide à repérer les problèmes et les problèmes qui ne vous seraient peut-être pas arrivés