Rob Reich: los desarrolladores de IA necesitan un código de conducta responsable

Estamos emocionados de traer de vuelta Transform 2022 en persona el 19 de julio y virtualmente del 20 al 28 de julio. Únase a los líderes en inteligencia artificial y datos para debates en profundidad y emocionantes oportunidades para establecer contactos. ¡Regístrate hoy!

Rob Reich tiene muchas funciones: filósofo político, director del Centro de Ética en la Sociedad de la Familia McCoy y director asociado del Instituto Stanford para la Inteligencia Artificial centrada en el ser humano.

En los últimos años, Reich ha profundizado en las cuestiones éticas y políticas que plantean los revolucionarios avances tecnológicos en inteligencia artificial (IA). Su trabajo no siempre es fácil de escuchar para los tecnólogos. En su libro System Error: Where Big Tech Went Wrong and How We Can Reboot, Reich y sus coautores (el científico informático Mehran Sahami y el científico social Jeremy M. Weinstein) argumentaron que las empresas y la tecnología los desarrolladores están tan obsesionados con la "optimización" que a menudo se burlan de los valores humanos.

Más recientemente, Reich argumenta que la comunidad de IA se está quedando atrás en el desarrollo de estándares profesionales sólidos. Esto plantea riesgos para una serie de valores democráticos, desde la privacidad y los derechos civiles hasta la protección contra el daño y la explotación.

Habló sobre la importancia de los estándares comunitarios en la Conferencia de primavera de 2022 de HAI sobre avances clave en IA.

Evento

Transformar 2022

Únase a nosotros en el principal evento de IA aplicada para los responsables de la toma de decisiones tecnológicas y de negocios empresariales el 19 de julio y virtualmente del 20 al 28 de julio.

registrarse aquí

En una entrevista, explicó cómo sería este código de conducta profesional y quién debería participar.

La necesidad de madurez en la ética de la IA

Usted dice que la IA y la TI, en general, son "inmaduras" en su ética profesional. ¿Qué quieres decir?

Rob Reich: La ciencia de la IA es como un adolescente en su última etapa, recién consciente de sus poderes extraordinarios, pero sin una corteza frontal completamente desarrollada que pueda guiar su comportamiento arriesgado y llevarlo a considerar sus responsabilidades sociales más amplias. La informática solo surgió en las décadas de 1950 y 1960, y los graduados en informática solo se volvieron socialmente poderosos en la década de 2000. En comparación con campos más antiguos como la medicina o el derecho, o incluso diversas profesiones que tienen requisitos de licencia, los estándares institucionales para la ética profesional en la informática son desarrollo inmaduro.

¿De qué tipo de ética y estándares carece el campo de la IA?

Reich: Piense en lo que sucedió con un salto tecnológico diferente: CRISPR, la herramienta de edición de genes que creó oportunidades transformadoras en áreas que van desde la terapéutica hasta la agricultura. Una de sus co-inventoras, Jennifer Doudna, quien compartió un Premio Nobel de Química, dijo que una noche se despertó de una pesadilla y se preguntó: ¿y si Hitler tuviera eso? Decidió que los investigadores biomédicos necesitaban poner algunos límites a la técnica, y ayudó a convocar a sus colegas investigadores biomédicos y su re...