Великі ігрові компанії отримують допомогу DHS, щоб не дати гравцям стати терористами

Розгорнути червень | iStock/Getty Images Plus

У грудні минулого року Організація Об’єднаних Націй попередила про невраховану, але критичну «нову терористичну загрозу»: екстремісти радикалізують членів ігрових онлайн-спільнот.

Незважаючи на велику зацікавленість у порятунку геймерів від такої експлуатації, експерти кажуть, що брак фінансування досліджень на цю тему поставив ігрову індустрію позаду соціальних мереж, коли йдеться про заходи боротьби з тероризмом. Однак це починає змінюватися. Минулого тижня дослідники повідомили Ars, що Міністерство внутрішньої безпеки США вперше виділило фінансування — майже 700 000 доларів — дослідницькій групі, яка працює безпосередньо з великими ігровими компаніями для розробки ефективних методів боротьби з тероризмом і захисту вразливих гравців.

Новий проект триватиме два роки. Він керується Інститутом міжнародних досліджень Міддлбері-коледжу, де знаходиться Центр з питань тероризму, екстремізму та боротьби з тероризмом (CTEC). Vice сказав, що інші партнери включають некомерційну організацію під назвою Take This, яка зосереджується на впливі азартних ігор на психічне здоров’я, і технологічну компанію під назвою Logical, яка, за словами Vice, працює над «масштабним вирішенням проблеми поганої поведінки в Інтернеті».

Дослідники резюмували свої загальні цілі проекту DHS як «розробка набору найкращих практик і централізованих ресурсів для моніторингу та оцінки екстремістської діяльності, а також серії навчальних семінарів для відстеження, виявлення та запобігання експлуатації екстремістів у Ігрові простори для менеджерів спільноти, дизайнерів багатокористувацьких ігор, розробників знань, дизайнерів механіки та спеціалістів із довіри та безпеки."

Рейчел Коверт, директор з досліджень Take This, розповіла Ars, що головною метою проекту є розробка ресурсів, орієнтованих на індустрію відеоігор. Амбітний план його групи полягає в тому, щоб спочатку охопити великі компанії, а потім залучити менші компанії та незалежних розробників для досягнення максимального ефекту.

Алекс Ньюхаус, заступник директора CETC, сказав Ars, що проект розпочнеться з націлювання на великі ігрові компанії, які «по суті діють як соціальні платформи», включаючи Roblox, Activision Blizzard і Bungie.

Хоча фінансування проекту щойно затверджено, Ньюхаус сказав, що робота CETC уже почалася. Група працює з Roblox протягом шести місяців, і Ньюхаус сказав, що вона також веде «дуже попередні» переговори з Entertainment Software Association про шляхи розширення проекту.

Запозичення методів боротьби з тероризмом із соціальних мереж

Ньюхаус сказав, що в рамках DHS ФБР все більше цікавиться такими дослідженнями, як CETC, для боротьби з внутрішнім тероризмом, але, наскільки йому відомо, жодна федеральна організація не фінансувала такий збір даних. Незважаючи на те, що його проект фінансується лише протягом двох років, Ньюхаус хоче протягом п’яти років підштовхнути ігрову індустрію до впровадження тих самих стандартів боротьби з екстремізмом, які вже діють у соціальних мережах.

>

«Я хочу, щоб розробники ігор, особливо такі великі, як Roblox і Microsoft, мали спеціальні команди для боротьби з екстремізмом в іграх», — сказав Ньюхаус Ars. «Зараз ми також маємо прагнути бути такими ж витонченими в ігровій індустрії».

Ньюхаус планує використати свій досвід, щоб допомогти таким технологічним гігантам, як Google і Facebook, організувати групи боротьби з тероризмом. Він каже, що найбільшим пріоритетом CTEC є переконати індустрію відеоігор інвестувати в проактивну модерацію екстремістського контенту шляхом «впровадження все більш складних систем проактивного виявлення та модерації», які також використовують соціальні мережі.

Історично Ньюхаус сказав, що ігрові компанії покладалися насамперед на геймерів, щоб позначати екстремістський вміст для модерації. За його словами, це недостатньо хороша стратегія, тому що радикалізація часто спрацьовує, завищуючи самооцінку гравця, а люди, які змушені сприймати таку онлайн-залучення як позитивну, часто самі не повідомляють про ці радикальні події. Покладаючись суворо на звіти користувачів, ігрові компанії «не виявлять нічого на початковому рівні вербування та радикалізації», сказав він.

Заступник директора...