Google уволил исследователя, заявившего, что искусственный интеллект LaMDA чувствителен

Блейк Лемуан, инженер, проработавший последние семь лет в Google, был уволен, сообщает Алекс Кантровиц из информационного бюллетеня Big Technology. Сообщается, что эту новость сообщил сам Лемуан во время записи одноименного подкаста, хотя этот эпизод еще не опубликован. Google подтвердил увольнение Engadget.

Лемуан, недавно участвовавший в ответственном проекте искусственного интеллекта Google, в прошлом месяце говорил с Washington Post, что один из проектов искусственного интеллекта компании стал более деликатным. Рассматриваемый ИИ, LaMDA — сокращение от Language Model for Dialogue Applications — был публично представлен Google в прошлом году как способ для компьютеров лучше имитировать открытый разговор. Лемуан, похоже, не только верил, что ЛаМДА обрел разум, но и открыто задавался вопросом, обладает ли он душой. И на случай, если возникнут какие-либо сомнения в том, что его мнение выражено без преувеличения, он продолжил: «Я обоснованно считаю, что ЛаМДА — это человек».

После того, как Лемуан сделал эти заявления для прессы, по-видимому, без разрешения своего работодателя, он был отправлен в оплачиваемый административный отпуск. Google, как в заявлениях для Washington Post тогда, так и позже, твердо утверждал, что его ИИ никоим образом не чувствителен.

Несколько членов сообщества исследователей ИИ также высказались против заявлений Лемуана. Маргарет Митчелл, уволенная из Google после высказываний об отсутствии разнообразия в организации, написала в Твиттере, что такие системы, как LaMDA, не развивают намерение, они «скорее моделируют то, как люди выражают «коммуникативное намерение в виде текстовых строк». Менее тактично Гэри Маркус назвал утверждения Лемуана «чушью на ходулях».

Мы связались с нами для комментариев, и Google поделился с Engadget следующим заявлением:

Поскольку мы разделяем наши принципы ИИ, мы очень серьезно относимся к разработке ИИ и по-прежнему привержены ответственным инновациям. LaMDA прошел 11 отдельных обзоров, и ранее в этом году мы опубликовали исследовательский документ с подробным описанием работы, необходимой для его ответственной разработки. Если сотрудник разделяет опасения по поводу нашей работы, как это сделал Блейк, мы тщательно их расследуем. Мы обнаружили, что утверждения Блейка о том, что ЛаМДА обладает разумом, совершенно необоснованны, и много месяцев работали над выяснением этого с ним. Эти обсуждения были частью открытой культуры, которая помогает нам ответственно внедрять инновации. Поэтому очень жаль, что, несмотря на долгую работу над этой темой, Блейк по-прежнему предпочитает постоянно нарушать четкие правила занятости и безопасности данных, которые включают необходимость защиты информации о продуктах. Мы продолжим тщательную разработку языковых моделей и желаем Блейку всего наилучшего.

Все продукты, рекомендованные Engadget, выбираются нашей редакционной группой независимо от нашей материнской компании. Некоторые из наших историй содержат партнерские ссылки. Если вы приобретете что-либо по одной из этих ссылок, мы можем получить партнерскую комиссию.