Obtenir l'engagement des parties prenantes dans une IA responsable

Découvrez toutes les sessions à la demande du Sommet sur la sécurité intelligente ici.

La gestion des parties prenantes est difficile. Les dirigeants marchent sur une corde raide : ils doivent instaurer la confiance entre les employés, les investisseurs, les partenaires et les parties prenantes concernées qui ont des objectifs différents (parfois concurrents) et beaucoup à perdre. Et, à une époque de plus en plus automatisée où l'IA et d'autres technologies s'intègrent dans les flux de travail, les moyens habituels de gagner la confiance doivent s'adapter et évoluer.

Les systèmes d'IA ont deux implications principales : accélérer le changement et transférer le pouvoir de décision. Ces deux éléments rendent la gestion des parties prenantes plus difficile. De par leur conception, ces systèmes exécutent et augmentent les tâches traditionnellement gérées par les humains, y compris dans les bastions présumés de la supériorité humaine, tels que la stratégie et les arts. Mais cela ne signifie pas qu'ils doivent supprimer l'autorité ou la contribution humaine en matière de prise de décision.

À mesure que les systèmes d'IA deviennent plus complexes, l'importance de la contribution des parties prenantes dans la prise de décision diminuera à moins qu'un processus de conception réfléchi ne soit mis en œuvre. Les systèmes d'IA peuvent créer une dynamique puissante pour les entreprises, mais la contribution initiale détermine si l'impact d'un système sera positif ou négatif. Par exemple, les concepteurs de ChatGPT utilisent l'apprentissage par renforcement à partir des commentaires humains (RLHF) pour former l'agent à intégrer les commentaires des utilisateurs dans le comportement futur.

Au fur et à mesure que les commentaires du public s'accumulent, nous verrons si l'approche RLHF est efficace pour résoudre les problèmes éthiques soulevés par les systèmes d'IA générative.

Événement

Sommet sur la sécurité intelligente à la demande

Découvrez le rôle essentiel de l'IA et du ML dans la cybersécurité et des études de cas spécifiques à l'industrie. Regardez les sessions à la demande dès aujourd'hui.

Regardez ici

Les dirigeants responsables sont confrontés à un défi fondamental : comment intègrent-ils l'inclusion et la surveillance des parties prenantes dans les systèmes et processus d'IA ? Les modèles actuels d'engagement des parties prenantes exercent un effet de levier supérieur à ce qu'ils sont susceptibles de faire à long terme.

Nous proposons une nouvelle façon pour les organisations leaders de concevoir des stratégies d'engagement des parties prenantes qui seront au maximum inclusives et efficaces en ce moment charnière.

Il existe un large éventail entre l'engagement des employés ou des clients en tant que parties prenantes passives ou en tant que partenaires décisionnels. Mais il peut être difficile de savoir où se trouve ou devrait se trouver un public sur ce spectre à un moment donné.

Un modèle peut nous aider à décomposer ce spectre en étapes observables. Considérez le modèle d'échelle de l'engagement des parties prenantes - proposé pour la première fois par l'analyste des politiques du logement Sherry Arnstein en 1969 et doublement pertinent pour notre dilemme moderne. L'échelle d'Arnstein a été initialement développée avec une optique politique, et nous l'avons mise à jour ici pour l'adapter à un contexte commercial.

Sur l'échelle d'Arnstein, les publics des parties prenantes sont assis avec différents niveaux de pouvoir, de la non-participation au contrôle partagé. Au niveau le plus bas, un décideur mal aligné peut fournir des informations minimales ou inexactes pour manipuler les parties prenantes ou uniquement répondre à leurs réactions émotionnelles. Un peu mieux que cette étape consiste à fournir des flux d'informations à sens unique plus approfondis ou à organiser des séances d'écoute avec un échantillon symbolique de groupes de parties prenantes.