Нам потрібно створити кращу упередженість у ШІ

Перегляньте всі сеанси Smart Security Summit за запитом тут.

У найкращому випадку системи штучного інтелекту розширюють і доповнюють нашу роботу, допомагаючи нам досягати наших цілей. У гіршому – підривають їх. Ми всі чули про резонансні випадки упередженості штучного інтелекту, як-от дискримінаційний механізм вербування Amazon машинного навчання (ML) щодо жінок або расистські результати Google Vision. Ці випадки завдають шкоди не лише окремим людям; вони суперечать початковим намірам їхніх творців. Справедливо, ці приклади викликали громадський резонанс і, як наслідок, перетворили уявлення про упередженість штучного інтелекту на щось категорично неправильне, і ми повинні позбутися.

Хоча більшість людей погоджуються з необхідністю створення надійних і чесних систем штучного інтелекту, усунути всі упередження ШІ нереально. Фактично, оскільки нова хвиля моделей машинного навчання виходить за межі детермінізму, вони активно розробляються з певним рівнем вбудованої суб’єктивності. Найскладніші сучасні системи синтезують вхідні дані, контекстуалізують вміст та інтерпретують результати. Замість того, щоб намагатися повністю усунути упередженість, організації повинні прагнути краще зрозуміти й виміряти суб’єктивність.

На підтримку суб’єктивізму

У міру того, як системи ML стають все складнішими, а наші цілі стають амбітнішими, організації відкрито вимагають, щоб вони були суб’єктивними, хоча й таким чином, щоб вони узгоджувалися із загальним наміром і цілями проекту.

Ми чітко бачимо це, наприклад, у сфері розмовного ШІ. Системи синтезу мовлення з тексту, здатні транскрибувати відео або дзвінок, зараз поширені. Для порівняння, хвиля рішень, що виникає, не лише повідомляє про дискурс, але також інтерпретує та узагальнює його. Таким чином, замість того, щоб просто транскрибувати, ці системи працюють разом з людьми, щоб розширити спосіб, яким вони вже працюють, наприклад, підсумовуючи нараду, а потім створюючи список дій, які випливають із неї.

Подія

Саміт Smart Security за запитом

Дізнайтеся про важливу роль штучного інтелекту та машинного навчання в кібербезпеці та практичні приклади для окремих галузей. Дивіться сеанси за запитом сьогодні.

Послухайте

У цих прикладах, як і в багатьох інших випадках використання ШІ, система повинна розуміти контекст і тлумачити, що є важливим, а що можна проігнорувати. Іншими словами, ми створюємо системи ШІ, щоб діяти як люди, і суб’єктивність є частиною всього цього.

Бізнес упередженості

Навіть технологічний стрибок, який привів нас від синтезу мовлення до розмовного інтелекту всього за кілька років, тьмяний у порівнянні з майбутнім потенціалом цієї гілки ШІ.

Подумайте про це: Значення в розмові здебільшого передається через невербальні підказки та тон, за словами професора Альберта Меграбіана у його знаковій роботі Тихі повідомлення< /em >. Менше десяти відсотків — через самі слова. Проте переважна більшість розмовних розвідувальних рішень значною мірою покладаються на інтерпретацію тексту, здебільшого ігноруючи (поки що) контекстуальні підказки.

Коли ці інтелектуальні системи починають інтерпретувати те, що ми можемо назвати метаданими людської розмови. Тобто тон, паузи, контекст, вираз обличчя тощо, упередженість – або навмисна, спрямована суб’єктивність – це не просто вимога, це є ціннісною пропозицією.

Розмовний інтелект — це лише одна з багатьох областей машинного навчання. Деякі з найцікавіших і потенційно прибуткових застосувань штучного інтелекту полягають не в точному відтворенні того, що вже існує, а в інтерпретації...