Dar forma a nuestros espacios públicos digitales y por qué la democracia depende de ellos

El impacto de Big Tech en la democracia nunca ha sido más evidente y los reguladores están empezando a darse cuenta. En los últimos meses, la Unión Europea ha aprobado dos de las leyes más importantes destinadas a regular las empresas Big Tech y su impacto en la polarización. Inmediatamente después de estos avances políticos, la empresaria social de Ashoka, Anna-Lena von Hodenberg, fundadora de HateAid, ganó un precedente: un tribunal alemán dictaminó que Facebook (ahora conocido como Meta) es responsable de eliminar "elementos idénticos y discursos de odio ilegales básicos similares". " de su plataforma una vez detectado. Para obtener más información, Julia Kloiber de SuperrrLab habló con Anna-Lena sobre el futuro de la política tecnológica en Europa y lo que podría significar para la democracia.

Julia Kloiber: Anna-Lena, empezaste HateAid en 2018 para ayudar a las víctimas de la violencia digital. ¿Puede hablarnos sobre el caso de la política alemana Renate Künast y su búsqueda de justicia frente a la difamación en las redes sociales?

Anna-Lena von Hodenberg: Durante siete años, un meme popular ha estado circulando en Facebook: una foto de Renate Künast sobre una cita que se le atribuye. El problema era que la cita estaba mal. El meme ha sido denunciado muchas veces por diferentes personas, incluida la propia política. En algunos casos, Meta incluso agregó el mensaje: "Esto ha sido verificado y es falso". Por lo tanto, la plataforma reconoció que se trataba de una difamación, un delito penal, pero el meme seguía ahí. En ese momento, el procedimiento de aviso y eliminación de Meta requería que la víctima pasara por la plataforma e informara cada meme uno por uno. Pero el meme se compartió con tanta frecuencia que, literalmente, tomó toda una vida hacerlo.

Kloiber: ¿Cómo lograron que Meta solucionara el problema? ¿Y qué significa el resultado para todos nosotros?

von Hodenberg: Hay diferentes instrumentos que puede usar para regular Big Tech, y uno de ellos es el litigio. Así que presentamos una demanda por difamación contra Meta. En general, este caso demostró cuán exitosos podemos ser en la defensa de los derechos de los usuarios en los tribunales, pero lo que logramos específicamente con este veredicto es que Meta ahora está obligada a encontrar y eliminar de manera proactiva todas las instancias "idénticas y similares" de dicho contenido. . Hemos probado que Meta tiene la tecnología para filtrar todos los memes idénticos y eliminarlos cuando no se usan, por ejemplo, para contenido periodístico. También se supone que deben buscarlos de manera proactiva, eliminando cualquier contenido obviamente ilegal. Recuerde, ellos mismos autoevaluaron este contenido como ilegal. Si no cumplen, serán multados con 250.000 euros y deberán pagar a Renate Künast 10.000 euros en concepto de daños y perjuicios.

En términos más generales, este veredicto significa que cuando usted es víctima de un abuso digital, se le quita la responsabilidad de solucionar el problema. Ahora depende de la plataforma eliminar el contenido ilegal. Meta está apelando el veredicto, por supuesto, pero estamos preparados para defenderlo en cualquier instancia.

Kloiber: A título personal, ¿cómo llegó a este trabajo? ¿Qué inspiración o experiencia de vida lo llevó a ello?

von Hodenberg: Cuando yo era niño en Alemania, el legado del Holocausto estaba muy presente. El sentido de la responsabilidad de no dejar que esto vuelva a suceder me inculcó desde muy temprana edad. Después de la elección de Trump y el Brexit, hemos visto a personas, especialmente a los extremistas de derecha, aprender a manipular el discurso en Internet, a usar la violencia digital y los algoritmos para silenciar a las personas, sacarlas del discurso público y difundir información errónea. Las personas con cuentas falsas ahora podrían cambiar el curso de las elecciones. Me sorprendió cuando se publicó por primera vez una investigación sobre esto y pensé en la Alemania nazi, donde la propaganda era la clave para ganar poder. Aquí vamos de nuevo: la propaganda utilizada para silenciar a quienes se le oponen. Me apasiona porque esta es realmente una de las mayores amenazas para nuestras democracias y es hora de defenderlas.

Kloiber: ¿Tiene algún consejo para defenderse de Big Tech, para cualquiera que lea esto?

von Hodenberg: Es muy importante discutir el tema, hacer que la gente piense: "Sí, es injusto que, como individuo, la carga de lidiar...