Совет по надзору за Meta считает, что перекрестная проверка ставит «деловые проблемы» выше прав человека

Более чем через год после того, как Meta попросила Наблюдательный совет принять решение о правилах перекрестной проверки, группа наконец опубликовала свое полное политическое мнение по этому вопросу. Совет обнаружил, что программа, создающая отдельный процесс модерации контента для определенных пользователей высокого уровня, отдает приоритет бизнесу компании, а не правам ее пользователей.

"Во время нашей проверки мы обнаружили несколько недостатков в программе перекрестной проверки Meta", — написало правление в своей оценке. «Хотя Meta сообщила совету директоров, что перекрестная проверка была предназначена для продвижения обязательств Meta в области прав человека, мы обнаружили, что программа выглядит более непосредственно структурированной для решения корпоративных проблем». Примечательно, что эта критика перекликается с критикой разоблачителя Фрэнсис Хауген, которая раскрыла взрывоопасные детали перекрестной проверки в прошлом году и заявила, что Meta «выбирает прибыль, а не безопасность».

Cross-check или xcheck – это внутренняя программа Facebook и Instagram, которая защищает знаменитостей, политиков и других высокопоставленных пользователей от автоматизированных систем модерации контента компании. Мета охарактеризовала его как «второй уровень обзора», чтобы избежать ошибочного удаления сообщений. Но разоблачения, сделанные Хаугеном, показали, что программа включает миллионы учетных записей и обеспечивает миллиарды просмотров сообщений, которые в противном случае были бы удалены. Сам Наблюдательный совет обвинил Мету в том, что она не «полностью откровенна» в отношении программы, что было центральным вопросом в решении совета по поводу отстранения от должности бывшего президента Дональда Трампа.

Совет по надзору, или PAO, Консультативное заключение по политике в отношении программы является наиболее подробным в отношении эволюции правил перекрестной проверки Meta. Правление подробно описывает два отдельных процесса перекрестной проверки: Вторичная проверка с ранним реагированием (ERSR), которая зарезервирована для определенных пользователей высокого уровня, определяемых Meta, и Общая вторичная проверка (GSR), более новая система, использующая алгоритм для автоматически помечать определенные типы сообщений на своей платформе для дальнейшего просмотра. GSR, который может применяться к контенту любого пользователя Facebook или Instagram, начался в 2021 году «в ответ на критику» в связи с раскрытием информации Хаугеном в документах Facebook.

Но, по мнению Наблюдательного совета, обе системы встречной проверки имеют серьезные проблемы. Оба работают с «постоянным журналом невыполненных дел», что увеличивает время, оставшееся для контента, потенциально нарушающего правила. «Мета сообщила Правлению, что в среднем принятие решения о пользовательском контенте в перекрестных контрольных списках может занять более пяти дней», — отмечает группа. «Это означает, что из-за перекрестной проверки контент, идентифицированный как нарушающий метаправила, остается в Facebook и Instagram, когда он наиболее вирусный и может причинить вред».

Совет проливает новый свет на один такой случай, освещая инцидент 2019 года, когда бразильский футболист Неймар опубликовал видео, на котором показаны обнаженные фотографии женщины, обвинившей его в сексуальных домогательствах. Из-за перекрестной проверки пост пролежал более суток и набрал более 100 миллионов просмотров, прежде чем был окончательно удален. По его мнению, правление поднимает вопросы о том, почему спортсмен не был отстранен, и многозначительно отмечает, что инцидент стал известен только после разоблачений Хаугена.

«Компания в конце концов сообщила, что единственным последствием было удаление контента, а обычной санкцией была бы деактивация учетной записи... Позже Meta объявила, что подписала экономическое соглашение с Неймаром, чтобы «стримить игры». эксклюзивно на Facebook Gaming и делится видеоконтентом со своими более чем 166 миллионами поклонников в Instagram."

Наблюдательный совет также критикует другие «деловые» факторы, которые играют роль в правилах перекрестной проверки Meta. Например, он говорит, что Meta склоняется к недооценке перепроверяемого контента из-за «восприятия цензуры» и того влияния, которое она может оказать на бизнес. «Совет интерпретирует это как означающее, что по коммерческим причинам «восприятие цензуры» может иметь приоритет над другими обязанностями в области прав человека, связанными с модерацией контента», — пишет группа.

Неудивительно...