Les usages de l'IA éthique dans le recrutement : IA opaque vs transparente

Vous n'avez pas pu assister à Transform 2022 ? Découvrez dès maintenant toutes les sessions du sommet dans notre bibliothèque à la demande ! Regardez ici.

Il n'y a jamais eu de révolution comme celle-ci auparavant, qui a secoué l'industrie du talent de manière si spectaculaire au cours des dernières années. La pandémie, la Grande Démission, l'inflation et maintenant les rumeurs de récessions imminentes modifient les stratégies de gestion des talents telles que nous les connaissons.

De tels changements importants, et le défi de garder une longueur d'avance sur eux, ont placé l'intelligence artificielle (IA) au premier plan de l'esprit des responsables RH et des équipes de recrutement alors qu'ils s'efforcent de rationaliser les flux de travail et d'identifier les talents appropriés pour pourvoir plus rapidement les postes vacants. . Pourtant, de nombreuses organisations mettent encore en œuvre des outils d'IA sans évaluation appropriée de la technologie ni en comprenant son fonctionnement. Elles ne peuvent donc pas être sûres de l'utiliser de manière responsable.

Qu'est-ce que cela signifie pour l'IA d'être "éthique ?"

Comme pour toute technologie, un débat est en cours sur les bonnes et les mauvaises utilisations de l'IA. Bien que l'IA ne soit pas nouvelle dans le débat sur l'éthique, son utilisation croissante dans les RH et la gestion des talents a ouvert un nouveau niveau de discussion sur ce que cela signifie réellement pour l'IA d'être éthique. Au cœur de la nécessité pour les entreprises de comprendre les cadres de conformité et de réglementation associés et de s'assurer qu'elles travaillent pour aider l'entreprise à respecter ces normes.

La mise en place d'une gouvernance et d'un cadre de conformité flexible autour de l'IA devient d'une importance cruciale pour répondre aux exigences réglementaires, en particulier dans différentes zones géographiques. Avec l'introduction de nouvelles lois, il n'a jamais été aussi important pour les entreprises de donner la priorité à l'éthique de l'IA parallèlement à l'évolution des directives de conformité. S'assurer qu'ils sont capables de comprendre l'algorithme de la technologie signifie qu'ils réduisent le risque que les modèles d'IA deviennent discriminatoires s'ils ne sont pas correctement examinés, audités et formés.

Événement

MétaBeat 2022

MetaBeat réunira des leaders d'opinion pour donner des conseils sur la manière dont la technologie métaverse transformera la façon dont toutes les industries communiquent et font des affaires le 4 octobre à San Francisco, en Californie.

Inscrivez-vous ici Qu'est-ce que l'IA opaque ?

Opaque, ou boîte noire, l'IA sépare les algorithmes de la technologie de ses utilisateurs, ce qui rend impossible l'audit de l'IA car il n'y a pas de compréhension claire du fonctionnement des modèles ou des points de données auxquels elle donne la priorité. En tant que tel, la surveillance et l'audit de l'IA deviennent impossibles, exposant une entreprise aux risques d'exécuter des modèles avec des biais inconscients. Il existe un moyen d'éviter ce modèle et de mettre en œuvre un système où l'IA reste soumise à la surveillance et à l'évaluation humaines : Transparant, ou boîte blanche, AI.

IA éthique : ouvrir la boîte blanche

La réponse à l'utilisation éthique de l'IA est "l'IA explicable", ou le modèle de la boîte blanche. L'IA explicable transforme efficacement le modèle de la boîte noire à l'envers - en encourageant la transparence autour de l'utilisation de l'IA afin que chacun puisse voir comment cela fonctionne et, surtout, comprendre comment les conclusions ont été tirées. Cette approche permet aux organisations de générer des rapports sur les données en toute confiance, car les utilisateurs comprennent les processus de la technologie et peuvent également les auditer pour s'assurer que l'IA reste impartiale.

Par exemple, les recruteurs qui utilisent une approche d'IA explicable auront non seulement une meilleure compréhension de la façon dont l'IA a fait une recommandation, mais ils resteront également actifs dans le processus d'examen et d'évaluation de la recommandation qui a été renvoyée - connue sous le nom d'"humain". dans la boucle." Grâce à cette approche, un opérateur humain est celui qui supervise la décision, comprend comment et pourquoi il est arrivé à cette conclusion et audite l'opération dans son ensemble.

Cette façon de travailler avec l'IA a également un impact sur la façon dont un profil d'employé potentiel est identifié. Avec une IA opaque, les recruteurs pourraient simplement rechercher un pa...