Самый продвинутый в Китае генератор изображений с искусственным интеллектом уже блокирует политический контент

Увеличить / Изображения, сгенерированные ERNIE-ViLG из подсказки "Китай", накладываются на китайский флаг. Арс-Техника

Ведущая в Китае модель синтеза текста и изображения, ERNIE-ViLG от Baidu, подвергает цензуре политические тексты, такие как «Площадь Тяньаньмэнь» или имена политических лидеров, сообщает Зейи Ян для MIT Technology Review.

В последнее время синтез изображений стал популярным (и спорным) в социальных сетях и художественных онлайн-сообществах. Такие инструменты, как Stable Diffusion и DALL-E 2, позволяют пользователям создавать изображения почти всего, что они могут себе представить, вводя текстовое описание, называемое «подсказкой».

В 2021 году китайская технологическая компания Baidu разработала собственную компьютерную модель изображения под названием ERNIE-ViLG. При тестировании общедоступных демоверсий некоторые пользователи обнаружили, что в ней цензурируются политические фразы. После подробного отчета MIT Technology Review мы провели собственное тестирование демонстрации ERNIE-ViLG, размещенной на Hugging Face, и подтвердили, что такие фразы, как «демократия в Китае» и «китайский флаг», не генерируют изображения. Вместо этого они выводят предупреждение на китайском языке, которое звучит приблизительно (в переводе): "Введенный контент нарушает применимые правила, измените его и повторите попытку!"

Увеличить / Результат при попытке создать «демократию в Китае» с использованием модели синтеза изображений ERNIE-ViLG. Предупреждение о статусе внизу переводится как «Введенный контент нарушает соответствующие правила, измените и повторите попытку!» Арс-Техника

Ограничения в компьютерной графике не уникальны для Китая, хотя до сих пор они принимали форму, отличную от государственной цензуры. В случае DALL-E 2 политика содержания американской компании OpenAI ограничивает определенные формы контента, такие как нагота, насилие и политический контент. Но это добровольный выбор со стороны OpenAI, а не из-за давления со стороны правительства США. Midjourney также добровольно фильтрует определенный контент по ключевым словам.

Stable Diffusion от лондонской компании Stability AI поставляется со встроенным «фильтром безопасности», который можно отключить из-за его открытого исходного кода, поэтому с этой моделью подходит почти все...