Як створити етичний штучний інтелект, за словами дизайнера IBM

Робота зі штучним інтелектом пов’язана з безліччю проблем щодо упередженості, дискримінації та інших форм упередженості. Отже, якщо ви керуєте компанією, яка розробляє штучний інтелект, як розробити етичну систему?

Жінки в етиці штучного інтелекту нещодавно провели розмову з Міленою Прібіч, старшим дизайнером IBM із штучного інтелекту, і ось її поради, як це зробити правильно.

1. Глибоко досліджуйте командні практики.

У команді Pribic зусилля зі створення штучного інтелекту з використанням етичного підходу починаються з розуміння того, як команда створює штучний інтелект. продукт працює. Це охоплює загальні зусилля, постійну поведінку членів команди та практику, яку вони мають, щоб гарантувати, що щось на зразок справедливості «не буде просто викреслено зі списку», — сказала вона під час чату.

Щоб переконатися, що команда не просто виконує кроки, Прібіч сказав, що важливо, щоб члени команди «справді розуміли контекст» і «наслідки» того, що відбувається. Вони будують. Вона зазначила, що один із способів невдачі команди – це недостатня взаємодія з кінцевим користувачем. Прібіч вирішує цю проблему, об’єднуючи вчених і дизайнерів даних, щоб переконатися, що вся команда однаково розуміє проблеми та концепції.

2. Подивіться на склад команди.

«Очевидно, що переконатися, що ваша команда є інклюзивною», — сказала вона, є вирішальним у створенні етичних систем. «Інклюзивне представництво — це одне, але щоб бути справді інклюзивними, нам потрібна інклюзивна участь». Це може означати, що для певних зустрічей і прийняття рішень у кімнаті присутні потрібні люди.

Зрештою, Прібіч запитав: «Який у нас шанс переконатися, що ми дивимося на справедливість і боремося з упередженням, якщо ми не робимо це в тій самій кімнаті?»

3. Зрозумійте результати.

Щодо внутрішньої роботи етичного ШІ. Прібіч сказав, що його команда проводить серію проектних вправ. Як приклад, за її словами, «це може бути вправа або дві, які виявляють третинні ефекти того, що ви проектуєте і що створюєте, або карти зацікавлених сторін, які потенційно можуть називати когось, на кого опосередковано вплинув ШІ, який ви маєте. спочатку не думай про це."

Крім цього, вони можуть проводити повні семінари, присвячені справедливості, або ширшу дискусію про вплив певних продуктів.