Cómo crear inteligencia artificial ética, según un diseñador de IBM

El trabajo de inteligencia artificial está vinculado a innumerables preocupaciones sobre prejuicios, discriminación y otras formas de prejuicios. Entonces, si dirige una empresa que desarrolla IA, ¿cómo diseña un sistema ético?

Mujeres en la ética de la IA recientemente organizó una conversación con Milena Pribic, diseñadora sénior de IA de IBM, y estos son sus consejos para hacerlo bien.

1. Profundice en las prácticas del equipo.

En el equipo de Pribic, los esfuerzos para construir IA utilizando un enfoque ético comienzan con la comprensión de cómo el equipo que construye IA. el producto funciona. Esto abarca el esfuerzo general, los comportamientos continuos de los miembros del equipo y las prácticas que tienen para garantizar que algo como la equidad "no quede simplemente tachado de una lista", dijo durante el chat.

Pour s'assurer qu'une équipe ne se contente pas de suivre les étapes, Pribic a déclaré qu'il était important que les membres de l'équipe "comprennent vraiment le contexte" et "les répercussions" de ce qu' ellos construyen. Señaló que una de las formas en que los equipos pueden no crecer es cuando no interactúan lo suficiente con el usuario final. Pribic resuelve este problema reuniendo a científicos de datos y diseñadores para garantizar que todo el equipo comprenda los problemas y conceptos de la misma manera.

2. Observa la composición del equipo.

"Obviamente, asegurarse de que su propio equipo sea inclusivo", dijo, es crucial en la construcción de sistemas éticos. "La representación inclusiva es una cosa, pero para ser verdaderamente inclusivos necesitamos tener una participación inclusiva". Esto puede significar asegurarse de que la combinación correcta de personas esté realmente en la sala para ciertas reuniones y decisiones.

Después de todo, Pribic preguntó: "¿Qué posibilidades tenemos de asegurarnos de que buscamos la equidad y luchamos contra los prejuicios si no lo hacemos en esta misma sala?"

3. Comprender los resultados.

Respecto al funcionamiento interno de una IA ética. trabajo, Pribic dijo que su equipo está realizando una serie de ejercicios de diseño. Como ejemplo, dice, "podría ser uno o dos ejercicios que expongan los efectos terciarios de lo que diseñas y lo que creas o mapas de partes interesadas que potencialmente llamarán a alguien que se ha visto afectado indirectamente por la IA que tienes que no No pienses en eso al principio".

Además de esto, pueden realizar talleres completos centrados en la equidad o una discusión más amplia sobre los efectos de productos particulares.