Проблематичное стремление китайского правительства судить онлайн-комментарии

China Report – это информационный бюллетень MIT Technology Review, посвященный технологическим разработкам в Китае. Подпишитесь, чтобы получать его на свой почтовый ящик каждый вторник.

Сегодня утром я опубликовал объяснение китайской системы социального кредита. Правительство опубликовало законопроект 14 ноября, который в конечном итоге послужит руководством высокого уровня о том, как страна строит систему.

Это правда, национальная система социального кредита Китая еще даже не полностью построена, но вам простительно думать иначе. Прямо сейчас он действительно существует только в сломанных частях. Тем не менее, на Западе существует много неправильных представлений об этом, в частности, что существует всезнающий алгоритм, который оценивает повседневное поведение людей. На самом деле этого не существует, и в своем рассказе я объясняю, что такое система на самом деле и как мы должны понимать социальные кредиты.

Настоящая система социального кредита ориентирована на повышение надежности в бизнесе, потреблении, образовании и... почти во всех других аспектах жизни. Звучит довольно хорошо в теории, но в сегодняшнем информационном бюллетене я хочу разобраться, насколько все это сложнее, чем кажется.

Конкретный пример последствий системы социального кредита (в частности, как она может повлиять на социальные сети и свободу слова) показывает, насколько проблематичной может быть благородная цель построения доверия на практике.

Ключевой вопрос здесь: кто решает, заслуживает ли доверия комментарий или пользователь в социальной сети? Это невероятно сложный вопрос, на который платформы по всему миру, включая Twitter и Facebook, до сих пор не могут ответить.

Однако в Китае правительство, похоже, убеждено, что оно может быть окончательным арбитром. Итак, как говорит мне Шазеда Ахмед, исследователь из Принстонского университета, необходимо задаться вопросом: что значит быть заслуживающим доверия или честным в глазах китайского правительства?

В 2019 году администрация киберпространства Китая представила проект постановления о создании системы социального кредита в интернет-индустрии. В нем говорится, что государственные органы могут считать физическое лицо или компанию «серьезно не заслуживающей доверия организацией» за «производство, публикацию или передачу информации, противоречащей общественным нравам, коммерческой морали, честности и кредитоспособности».

Хотя некоторая информация может быть проверена и признана ложной, такие понятия, как «общественные нравы» и «честность», часто слишком расплывчаты, чтобы дать объективное определение, поэтому правительство должно определить, что представляет собой нравственные ценности.

Ну, мы уже видели, насколько плохо это может пойти не так. В первые месяцы Covid-19 местное правительство Ухани наказало восемь человек за публикацию «слухов» о вирусе, которые якобы подорвали общественное доверие. Ли Вэньлян, врач-разоблачитель, который сообщил друзьям в групповом чате, что распространяется вирус, похожий на атипичную пневмонию, был вызван полицией за «размещение лжи в Интернете». Его смерть от ковида позже вызвала волну национальной ярости против государственного контроля над информацией.

Это всего лишь один случай, но по мере того, как идея построения социальной платежеспособности все больше просачивается в другие нормативные акты, она выявляет риски нормализации практики, в которой правительство выносит моральные суждения о своих гражданах.

На прошлой неделе Управление киберпространства Китая завершило работу над регламентом, полностью посвященным «онлайн-комментариям», о котором я писал, когда он был впервые предложен в июне. Основная цель правил — поставить взаимодействие в социальных сетях, в том числе в более новых формах, таких как прямые трансляции, под такой же строгий контроль, который Китай всегда применял к другому онлайн-контенту. /p>

Эти правила на самом деле не являются частью более широкой системы социальных кредитов, но я все же нашел в документе знакомые формулировки. Он просит платформы социальных сетей «выставлять кредитные оценки поведения пользователей при комментировании сообщений» и «выставлять кредитные оценки обработки комментариев к сообщениям производителями-операторами общедоступных учетных записей».

Идея в том, что...