Por qué es esencial incorporar la ética y los principios de la IA en su organización

¿No pudiste asistir a Transform 2022? ¡Vea todas las sesiones de la cumbre en nuestra biblioteca a pedido ahora! Mira aquí.

A medida que avanza la tecnología, los líderes empresariales comprenden la necesidad de adoptar soluciones empresariales que aprovechen la inteligencia artificial (IA). Sin embargo, existe una vacilación comprensible debido a las implicaciones éticas de esta tecnología: ¿la IA es inherentemente sesgada, racista o sexista? ¿Y qué impacto podría tener eso en mi negocio?

Es importante recordar que los sistemas de IA no son nada en sí mismos. Son herramientas construidas por humanos que pueden mantener o amplificar los sesgos que existen en los humanos que las desarrollan o en aquellos que crean los datos utilizados para entrenarlos y evaluarlos. En otras palabras, un modelo de IA perfecto no es más que un reflejo de sus usuarios. Como humanos, elegimos los datos utilizados en la IA y lo hacemos a pesar de nuestros sesgos inherentes.

En última instancia, todos estamos sujetos a una variedad de sesgos sociológicos y cognitivos. Si somos conscientes de estos sesgos y continuamente implementamos medidas para ayudar a combatirlos, continuaremos progresando en minimizar el daño que estos sesgos pueden causar cuando se incrustan en nuestros sistemas.

Revise la IA ética hoy

El enfoque de la organización en la ética de la IA es doble. El primero está relacionado con la gobernanza de la IA, que se ocupa de lo que está permitido en el campo de la IA, desde el desarrollo hasta la adopción y el uso.

Evento

MetaBeat 2022

MetaBeat reunirá a líderes de opinión para asesorar sobre cómo la tecnología del metaverso transformará la forma en que todas las industrias se comunican y hacen negocios el 4 de octubre en San Francisco, CA.

registrarse aquí

La segunda se refiere a la investigación en ética de la IA destinada a comprender las características inherentes de los modelos de IA que resultan de ciertas prácticas de desarrollo y sus riesgos potenciales. Creemos que las lecciones aprendidas en esta área continuarán matizándose más. Por ejemplo, la investigación actual se centra en gran medida en los modelos básicos y, en los próximos años, se centrará en tareas posteriores más pequeñas que pueden mitigar o propagar los inconvenientes de estos modelos.

La adopción universal de la IA en todos los aspectos de la vida requerirá que reflexionemos sobre su poder, propósito e impacto. Esto se hace enfocándose en la ética de la IA y requiriendo que la IA se use éticamente. Por supuesto, el primer paso para lograrlo es ponerse de acuerdo sobre lo que significa usar y desarrollar la IA de manera ética.

Un paso hacia la optimización de productos para obtener resultados justos e inclusivos es tener conjuntos de datos de capacitación, desarrollo y prueba justos e inclusivos. El desafío es que seleccionar datos de alta calidad no es una tarea trivial. Obtener este tipo de conjuntos de datos puede ser difícil, especialmente para las pequeñas empresas emergentes, porque muchos datos de capacitación fácilmente disponibles contienen sesgos. Además, es útil agregar técnicas de reducción de sesgo y procesos automatizados de evaluación de modelos al proceso de aumento de datos, y comenzar con prácticas exhaustivas de documentación de datos desde el principio, para que los desarrolladores tengan una idea clara de lo que necesitan para aumentar los conjuntos de datos que necesitan. decidir por. usar.

El costo de la IA imparcial

Las señales de alerta existen en todas partes y los líderes tecnológicos deben estar abiertos a verlas. Dado que el sesgo es hasta cierto punto inevitable, es importante considerar el caso de uso principal de un sistema: los sistemas de toma de decisiones que pueden afectar vidas humanas (es decir, filtrar currículos automatizados o vigilancia predictiva) tienen el potencial de causar un daño incalculable. En otras palabras, el objetivo central de un modelo de IA puede ser en sí mismo una señal de alerta. Las organizaciones tecnológicas deben examinar abiertamente el propósito de un modelo de IA para determinar si ese propósito es ético.

Además, aumenta...