Necesitamos crear un mejor sesgo en la IA

Consulte todas las sesiones bajo demanda de Smart Security Summit aquí.

En el mejor de los casos, los sistemas de IA amplían y aumentan el trabajo que hacemos, ayudándonos a lograr nuestros objetivos. En el peor de los casos, los socavan. Todos hemos oído hablar de casos de alto perfil de sesgo de IA, como el motor de reclutamiento de aprendizaje automático (ML) de Amazon que discrimina a las mujeres o los resultados racistas de Google Vision. Estos casos no solo dañan a las personas; van en contra de las intenciones originales de sus creadores. Con razón, estos ejemplos han causado indignación pública y, como resultado, han convertido la percepción del sesgo de la IA en algo categóricamente incorrecto y que debemos eliminar.

Si bien la mayoría de las personas está de acuerdo en la necesidad de crear sistemas de IA confiables y justos, no es realista eliminar todos los sesgos de la IA. De hecho, a medida que la nueva ola de modelos de ML va más allá del determinismo, se diseñan activamente con cierto nivel de subjetividad incorporada. Los sistemas más sofisticados de la actualidad sintetizan entradas, contextualizan el contenido e interpretan los resultados. En lugar de tratar de eliminar por completo el sesgo, las organizaciones deben tratar de comprender y medir mejor la subjetividad.

En apoyo de la subjetividad

A medida que los sistemas de ML se vuelven más sofisticados y nuestros objetivos se vuelven más ambiciosos, las organizaciones exigen abiertamente que sean subjetivos, aunque de una manera que se alinee con la intención y los objetivos generales del proyecto.

Vemos esto claramente en el área de la IA conversacional, por ejemplo. Los sistemas de texto a voz capaces de transcribir un video o una llamada ahora son comunes. En comparación, la ola emergente de soluciones no solo informa el discurso, sino que también lo interpreta y lo resume. Entonces, en lugar de solo la transcripción, estos sistemas funcionan junto con los humanos para ampliar la forma en que ya funcionan, por ejemplo, al resumir una reunión y luego crear una lista de acciones que se derivan de ella.

Evento

Cumbre de seguridad inteligente bajo demanda

Obtenga más información sobre el papel esencial de la IA y el ML en la ciberseguridad y los estudios de casos específicos de la industria. Mira las sesiones a pedido hoy.

mira aquí

En estos ejemplos, como en muchos otros casos de uso de IA, el sistema debe comprender el contexto e interpretar qué es importante y qué se puede ignorar. En otras palabras, estamos construyendo sistemas de IA para que actúen como humanos, y la subjetividad es parte de todo.

El negocio del sesgo

Incluso el salto tecnológico que nos llevó de la conversión de texto a voz a la inteligencia conversacional en tan solo unos años palidece en comparación con el futuro potencial de esta rama de la IA.

Considere esto: el significado en una conversación se transmite, en su mayor parte, a través de señales y tonos no verbales, según el profesor Albert Mehrabian en su obra histórica, Mensajes silenciosos. Menos del diez por ciento se debe a las propias palabras. Sin embargo, la gran mayoría de las soluciones de inteligencia conversacional se basan en gran medida en la interpretación del texto, ignorando en gran medida (por ahora) las señales contextuales.

A medida que estos sistemas de inteligencia comienzan a interpretar lo que podríamos llamar los metadatos de la conversación humana. Es decir, el tono, las pausas, el contexto, las expresiones faciales, etc., el sesgo, o la subjetividad intencional y guiada, no es solo un requisito, es es la propuesta de valor.

La inteligencia conversacional es solo una de las muchas áreas del aprendizaje automático. Algunas de las aplicaciones más interesantes y potencialmente rentables de la IA no son reproducir fielmente lo que ya existe, sino interpretar...