Rob Reich : les développeurs d'IA ont besoin d'un code de conduite responsable

Nous sommes ravis de ramener Transform 2022 en personne le 19 juillet et virtuellement du 20 au 28 juillet. Rejoignez les leaders de l'IA et des données pour des discussions approfondies et des opportunités de réseautage passionnantes. Inscrivez-vous dès aujourd'hui !

Rob Reich porte plusieurs casquettes : philosophe politique, directeur du McCoy Family Center for Ethics in Society et directeur associé du Stanford Institute for Human-Centered Artificial Intelligence.

Ces dernières années, Reich a approfondi les questions éthiques et politiques posées par les avancées technologiques révolutionnaires de l'intelligence artificielle (IA). Son travail n'est pas toujours facile à entendre pour les technologues. Dans son livre, System Error : Where Big Tech Went Wrong and How We Can Reboot, Reich et ses co-auteurs (l'informaticien Mehran Sahami et le spécialiste des sciences sociales Jeremy M. Weinstein) ont fait valoir que les entreprises et les développeurs de technologies sont tellement obsédés par "l'optimisation" qu'ils bafouent souvent les valeurs humaines.

Plus récemment, Reich affirme que la communauté de l'IA est très en retard dans le développement de normes professionnelles solides. Cela pose des risques pour une foule de valeurs démocratiques, de la vie privée et des droits civils à la protection contre les préjudices et l'exploitation.

Il a parlé de l'importance des normes communautaires lors de la conférence HAI du printemps 2022 sur les principales avancées de l'IA.

Événement

Transformez 2022

Rejoignez-nous lors du principal événement sur l'IA appliquée pour les décideurs commerciaux et technologiques en entreprise le 19 juillet et virtuellement du 20 au 28 juillet.

Inscrivez-vous ici

Dans une interview, il a expliqué à quoi pourrait ressembler ce code de conduite professionnel et qui devrait être impliqué.

Le besoin de maturité dans l'éthique de l'IA

Vous dites que l'IA et l'informatique, en général, sont "immatures" dans leur éthique professionnelle. Qu'est-ce que tu veux dire ?

Rob Reich : La science de l'IA est comme un adolescent à un stade avancé, nouvellement conscient de ses pouvoirs extraordinaires, mais sans un cortex frontal pleinement développé qui pourrait guider son comportement à risque et l'amener à considérer ses responsabilités sociales plus larges. L'informatique n'a vu le jour que dans les années 50 et 60, et les diplômés en informatique ne sont devenus socialement puissants que dans les années 2000. En comparaison avec des domaines plus anciens comme la médecine ou le droit - ou même des professions diverses qui ont des exigences de licence - les normes institutionnelles d'éthique professionnelle en informatique sont immatures sur le plan du développement.

De quel type d'éthique et de normes le domaine de l'IA manque-t-il ?

Reich : Pensez à ce qui s'est passé avec un bond technologique différent : CRISPR, l'outil d'édition de gènes qui a créé des opportunités de transformation dans des domaines allant de la thérapeutique à l'agriculture. L'une de ses co-inventrices, Jennifer Doudna, qui a partagé un prix Nobel de chimie, a raconté qu'elle s'est réveillée d'un cauchemar une nuit et s'est demandé : que se passerait-il si Hitler avait ça ? Elle a décidé que les chercheurs biomédicaux devaient mettre certaines limites à la technique, et elle a aidé à convoquer ses collègues chercheurs biomédicaux et leurs re...