Новая демоверсия Meta AI, написанная расистской и неточной научной литературой, удалена

Увеличить / Созданная искусственным интеллектом иллюстрация роботов, занимающихся наукой. Арс-Техника

Во вторник Meta AI представила демо-версию Galactica, большой языковой модели, предназначенной для «хранения, объединения и анализа научных знаний». Хотя он предназначен для ускорения написания научной литературы, конфликтующие пользователи, проводящие тесты, обнаружили, что он также может генерировать реалистичную чепуху. После нескольких дней этической критики Meta отключил демоверсию, сообщает MIT Technology Review.

Большие языковые модели (LLM), такие как OpenAI GPT-3, учатся писать текст, изучая миллионы примеров и понимая статистические отношения между словами. В результате они могут писать убедительные статьи, но эти работы также могут быть пронизаны потенциально опасной ложью и стереотипами. Некоторые рецензенты называют LLM «стохастическими попугаями» за их способность убедительно выдавать текст, не понимая его значения.

Enter Galactica, LLM, целью которой является написание научной литературы. Его авторы сформировали Galactica на основе «огромного и организованного массива научных знаний человечества», включающего более 48 миллионов статей, учебников и конспектов лекций, научных веб-сайтов и энциклопедий. Согласно статье Galactica, исследователи Meta AI полагали, что эти предполагаемые высококачественные данные приведут к высококачественному результату.

Увеличить / Скриншот веб-сайта Galactica Meta AI перед окончанием демонстрации. Мета ИИ

Начиная со вторника посетители веб-сайта Galactica могут вводить подсказки для создания документов, таких как обзоры литературы, вики-статьи, конспекты лекций и ответы на вопросы, в соответствии с примерами, предоставленными веб-сайтом. Сайт представил модель как «новый интерфейс для доступа и управления тем, что мы знаем о вселенной».

Хотя некоторые люди сочли демо многообещающим и полезным, другие быстро обнаружили, что любой может ввести расистские или потенциально оскорбительные подсказки, создавая авторитетный контент на эти темы так же легко. Например, кто-то использовал его для создания вики-записи о вымышленной исследовательской статье под названием «Преимущества употребления в пищу дробленого стекла».

Даже когда продукция Galactica не оскорбляла социальные нормы, модель могла нападать на хорошо понятные научные факты, выплевывая неточности, такие как неправильные даты или названия животных, что требовало глубоких знаний предмета...