Суперечка спалахує навколо експерименту з ШІ на психічне здоров’я без згоди

Збільшити / Згенероване штучним інтелектом зображення людини, яка розмовляє з таємним роботом-терапевтом. Арс-Техніка

У п’ятницю співзасновник Koko Роб Морріс оголосив у Twitter, що його компанія провела експеримент із надання порад щодо психічного здоров’я, написаних за допомогою ШІ, 4000 людям, не повідомляючи їм про це, повідомляє The Verge. Критики назвали експеримент глибоко неетичним, оскільки Коко не отримала інформованої згоди від людей, які зверталися за порадою.

Koko — це некомерційна платформа психічного здоров’я, яка об’єднує підлітків і дорослих, які потребують психічної допомоги, з волонтерами за допомогою програм обміну повідомленнями, таких як Telegram і Discord.

>

У Discord користувачі підключаються до сервера Koko Cares і надсилають прямі повідомлення боту Koko, який ставить кілька запитань із кількома варіантами відповідей (наприклад, «Яка у вас найтемніша думка про це?»). Потім він анонімно ділиться проблемами людини (написаними у вигляді кількох речень тексту) з кимось іншим на сервері, який може анонімно відповісти своїм коротким повідомленням.

Ми надавали підтримку психічного здоров’я приблизно 4000 людям за допомогою GPT-3. Ось що сталося