Google змінює процес подання апеляцій щодо зображень, які ймовірно жорстоке поводження з дітьми

Люди, які завантажують зображення дітей, які Google позначає як потенційно незаконні, зможуть надати більше контексту для оскарження заборон.

Коли Google сповістив матір із Колорадо про те, що її обліковий запис вимкнено, це було так, ніби її будинок згорів, за її словами. В одну мить вона втратила доступ до своїх весільних фотографій, відео, як росте її син, електронних листів десятирічної давності, податкових документів і всього, що вона зберігала в найбезпечнішому, на її думку, місці. Вона не знала, чому.

Google відмовився переглядати рішення в серпні, заявивши, що її обліковий запис YouTube містить шкідливий вміст, який може бути незаконним. Йому знадобилися тижні, щоб з’ясувати, що сталося: його 9-річний син нарешті зізнався, що використовував свій старий смартфон, щоб завантажити на YouTube короткий фільм, на якому він танцює голим.

Google має продуману систему, що включає алгоритмічний моніторинг і перевірку людьми, щоб запобігти поширенню та зберіганню зображень експлуатації дітей на своїх платформах. Якщо фотографія чи відео, завантажені на сервери компанії, вважаються вмістом сексуального характеру за участю неповнолітніх, Google деактивує обліковий запис користувача в усіх службах Google і повідомить про вміст некомерційній організації, яка співпрацює з правоохоронними органами. Користувачі мають можливість оскаржити дії Google, але раніше вони не мали реальної можливості надати контекст для оголеної фотографії чи відео дитини.

Тепер, після повідомлення The New York Times, Google змінив процедуру оскарження, давши користувачам, звинуваченим у жахливому злочині сексуальної експлуатації дітей, шанс довести свою невинуватість. Вміст, який буде визнано образливим, все одно буде видалено з Google і позначено, але користувачі зможуть пояснити, чому він був у їхньому обліковому записі, наприклад необдумана витівка дитини.

>< p class="css-at9mc1 evys1bk0" >Сьюзен Джаспер, керівник відділу довіри та безпеки Google, заявила в блозі, що компанія «надасть більш детальні причини призупинення облікових записів». Вона додала: «Ми також будемо оновлювати наш процес подання апеляцій, щоб дозволити користувачам надсилати ще більше контексту щодо свого облікового запису, зокрема ділитися додатковою інформацією та документацією від незалежних професіоналів або органів, відповідальних за правоохоронні органи, щоб допомогти нам зрозуміти вміст, виявлений у рахунок. ."

Протягом останніх кількох місяців The Times, повідомляючи про те, як енергетичні технологічні компанії впливають на найінтимніші аспекти життя своїх користувачів, привернула увагу Google до кількох випадки, коли його попередній процес перевірки, здавалося, пішов не так.

У двох окремих випадках батьки фотографували все своє. -маленькі оголені тіла, щоб полегшити медичне лікування. Алгоритм автоматично позначили зображення, а модератори визнали їх порушенням правил Google. Поліція встановила, що батьки не вчиняли злочину, але компанія все одно видалила їхні облікові записи.

батьки, один у Каліфорнії, а інший у Техасі, були заблоковані попереднім процесом оскарження Google: жодного разу вони не змогли надати медичні записи, зв’язок зі своїми лікарями або поліцейські документи, що звільняють їх від правопорушень. Батько із Сан-Франциско зрештою відновив свої дані Google за шість місяців, але на флеш-пам’яті від департаменту поліції, який отримав їх від компанії за ордером.

Технічні компанії, які надають безкоштовні послуги споживачам ...