Google modifie le processus d'appel pour les images suspectées d'abus d'enfants

Les personnes qui téléchargent des images d'enfants que Google signale comme potentiellement illégales pourront fournir plus de contexte pour faire appel des interdictions.

Lorsque Google a informé une mère du Colorado que son compte avait été désactivé, c'était comme si sa maison avait brûlé, a-t-elle déclaré. En un instant, elle a perdu l'accès à ses photos de mariage, aux vidéos de son fils grandissant, à ses e-mails remontant à une décennie, à ses documents fiscaux et à tout ce qu'elle avait conservé dans ce qu'elle pensait être l'endroit le plus sûr. Elle ne savait pas pourquoi.

Google a refusé de reconsidérer la décision en août, affirmant que son compte YouTube contenait du contenu préjudiciable qui pourrait être illégal. Il lui a fallu des semaines pour découvrir ce qui s'était passé : son fils de 9 ans a finalement avoué qu'il avait utilisé son vieux smartphone pour télécharger un court métrage YouTube de lui-même dansant nu.

Google dispose d'un système élaboré, impliquant une surveillance algorithmique et un examen humain, pour empêcher le partage et le stockage d'images d'exploitation d'enfants sur ses plateformes. Si une photo ou une vidéo téléchargée sur les serveurs de l'entreprise est considérée comme un contenu sexuellement explicite mettant en scène un mineur, Google désactive le compte de l'utilisateur, sur tous les services de Google, et signale le contenu à une organisation à but non lucratif qui travaille avec les forces de l'ordre. Les utilisateurs ont la possibilité de contester l'action de Google, mais dans le passé, ils n'avaient aucune possibilité réelle de fournir un contexte pour une photo ou une vidéo nue d'un enfant.

Maintenant, après avoir signalé par le New York Times, Google a modifié sa procédure d'appel, donnant aux utilisateurs accusés du crime odieux d'exploitation sexuelle des enfants la possibilité de prouver leur innocence. Le contenu jugé abusif sera toujours supprimé de Google et signalé, mais les utilisateurs pourront expliquer pourquoi il se trouvait dans leur compte, en précisant, par exemple, qu'il s'agissait d'une farce irréfléchie d'un enfant.

< p class="css-at9mc1 evys1bk0">Susan Jasper, responsable des opérations de confiance et de sécurité de Google, a déclaré dans un article de blog que l'entreprise "fournirait des raisons plus détaillées pour les suspensions de compte". Elle a ajouté: «Et nous mettrons également à jour notre processus d'appel pour permettre aux utilisateurs de soumettre encore plus de contexte sur leur compte, y compris pour partager plus d'informations et de documentation provenant de professionnels indépendants ou d'organismes chargés de l'application de la loi pour nous aider à comprendre le contenu détecté dans le compte. ."

Au cours des derniers mois, The Times, rendant compte du pouvoir que les entreprises technologiques exercent sur les parties les plus intimes de la vie de leurs utilisateurs, a attiré l'attention de Google sur plusieurs cas où son le processus d'examen précédent semblait avoir mal tourné.

Dans deux cas distincts, des pères ont pris des photos de leurs tout-petits nus pour faciliter le traitement médical. Un algorithme a automatiquement signalé les images, puis les modérateurs humains les ont jugées en violation des règles de Google. La police a déterminé que les pères n'avaient commis aucun crime, mais l'entreprise a quand même supprimé leurs comptes.

Les pères, l'un en Californie et l'autre au Texas, se sont retrouvés bloqués par Procédure d'appel précédente de Google : à aucun moment, ils n'ont été en mesure de fournir des dossiers médicaux, des communications avec leurs médecins ou des documents de police les exonérant d'actes répréhensibles. Le père de San Francisco a finalement récupéré six mois de ses données Google, mais sur une clé USB du département de police, qui les avait obtenues de l'entreprise avec un mandat.

"Lorsque nous trouvons du matériel d'abus sexuel d'enfants sur nos plateformes, nous le supprimons et suspendons le compte correspondant", a déclaré un porte-parole de Google, Matt Bryant, dans un communiqué. "Nous prenons au sérieux les implications de la suspension d'un compte, et nos équipes travaillent en permanence pour minimiser le risque d'une suspension incorrecte."

Les entreprises technologiques qui offrent des services gratuits aux consommateurs un ...