El contradiscurso planta cara al odio en internet
Los discursos de odio suponen un peligro para la sociedad y la democracia. Ahora que Facebook e Instagram han decidido relajar su política de moderación de contenido, el compromiso voluntario de quienes reaccionan al odio con el contradiscurso es crucial.
«La gente que se dedica a propagar discursos de odio está muy bien organizada», afirma Anne-Céline Machet. Se comunican, se coordinan y aúnan energías.
Esto es algo que preocupa a Machet, directora de una fundación feminista en Ginebra. Según ella, a las mujeres se les enseña desde niñas a ser discretas y a no ocupar demasiado espacio, una consigna que se ve amplificada en internet.
Machet tiene claro que el odio que reciben en internet las mujeres políticas y periodistas directamente —e indirectamente todas las mujeres que lo leen — pone en peligro la democracia. Entre otras cosas, porque hay mujeres que dejan de participar en los debates públicos: «algunas mujeres que se exponían han decidido retirarse de la esfera pública», se lamenta. Es algo que en su opinión debe evitarse y combatirse a toda costa, convenciendo y concienciando a la gente. «Hay que dejar bien claro que se puede actuar contra el discurso de odio».
¿Qué es el discurso de odio?
El discurso de odio comprende cualquier insulto o afirmación ofensivaEnlace externo hacia una persona por su pertenencia a un grupo social.
Según revela un estudio de SotomoEnlace externo de 2022, el 86% de la población suiza considera que la violencia digital está muy o bastante extendida. Pero el problema no sólo afecta a Suiza: es un problema global, y la conciencia general de sus peligros es cada vez mayor. La Comisión Europea contra el Racismo y la IntoleranciaEnlace externo detecta en el discurso de odio «graves amenazas» para «la cohesión de una sociedad democrática». Asimismo, señala que si la sociedad no les presta la debida atención, este tipo de discursos pueden alimentar la violencia física y los conflictos.
Por otro lado, en un estudioEnlace externo realizado en 2023 por la UNESCO en 16 países, el 67% de las personas encuestadas afirmó encontrar discursos de odio con frecuencia. Sin embargo, los valores variaban según el país: así, en países occidentales como Bélgica, Austria o Estados Unidos, el porcentaje era inferior, mientras que en Indonesia, Bangladesh o la India, era bastante superior.
No obstante, todos los países reflejan una constante: quienes más odio reciben son las personas LGTBIQ+, las minorías étnicas, las personas migrantes y las mujeres.
La importancia de anticiparse al odio
«Queremos que la red vuelva a ser un lugar seguro para las mujeres y minorías sexuales y de género, al menos dentro de nuestro proyecto», afirma Machet. Por eso, la Fundación por la Igualdad de Género que dirige lleva meses preparando una estrategia contra el discurso de odio que prevé para su campaña online con motivo del Día Internacional de la Mujer el próximo 8 de marzo.
Machet y sus colegas se han aliado con el proyecto suizo Stop Hate Speech. «Hay mucha gente dispuesta a responder con comentarios positivos», asegura Machet, «y además pretendemos documentar y denunciar los discursos de odio».
La cuestión de la incitación al odio en internet preocupa cada vez a más gente en 2025. A mediados de enero, poco antes de que Donald Trump asumiera el poder, Mark Zuckerberg sorprendió al mundo al anunciar que a partir de ese momento, Facebook e Instagram iban a anteponer la libertad de expresión, lo cual implica una mayor indulgencia hacia los discursos de odio. En lugar de moderadores profesionales, ahora estas redes confían en que la gente notifique y responda de manera voluntaria y espontánea a contenidos que puedan resultar ofensivos.
Todavía es pronto para saber cómo afectarán estos cambios a las redes sociales y al uso que se hace de ellas, pero existe el temor de que estos espacios acaben siendo aún más hostiles.
Un 1% es responsable de propagar dos tercios del odio en internet
El mundo digital está dominado por grandes redes sociales como TikTok, Facebook e Instagram. Sin embargo, puede que la mejor manera de combatir el odio sea participar en iniciativas pequeñas: en redes y grupos de chat donde personas con ideas afines se reúnen para combatir los discursos de odio generando los denominados contradiscursos o contranarrativas.
Según Stop Hate Speech, aproximadamente el 65% del odio propagado en internet proviene del 1% de todas las cuentas online. En los talleres de Stop Hate Speech sienten que esta cifra en realidad es esperanzadora, ya que si son pocas las personas que hacen de altavoz del odio, también se necesitan pocas para plantarles cara. Siempre teniendo en cuenta que al discurso de odio no se le responde con agresividad, sino simplemente llamando a las cosas por su nombre.
Sophie Achermann es la fundadora del proyecto Stop Hate Speech. En 2015, siendo todavía delegada de la juventud de la ONU por Suiza, organizó un taller sobre sexismo en internet en la sede de la ONU en Nueva York. «Fue antes del movimiento ‘MeToo’», recuerda Achermann. «La sala estaba a rebosar, el interés era enorme. Tuvimos la sensación de estar adelantándonos a nuestro tiempo».
Acherman cuenta que hubo gente que intentó restarle importancia al problema, aconsejando a las víctimas de violencia digital que no hicieran caso de los comentarios de odio o que apagaran el móvil. Algo que, según ella, sería impensable en los tiempos que corren.
Derecho penal y moderación de contenido
Para Achermann han cambiado muchas cosas desde entonces. Incluida la viabilidad de ciertas soluciones. La idea inicial era utilizar un algoritmo específico para buscar discursos de odio en las redes sociales, pero esto dejó de ser posible en 2017, a raíz de las críticas hacia Facebook por su papel en la primera elección de Trump. Hoy en día ya no se pueden hacer búsquedas de este tipo en las grandes redes sociales.
Si bien es cierto que algunos discursos de odio pueden constituir un delito penal, como en casos de difamación personal o infracciones según la Ley europea de Servicios Digitales, Achermann está convencida de que la ley por sí sola no acabará con los discursos de odio.
Algo parecido concluyó el primer estudio conjunto de Stop Hate Speech y el Instituto Federal de Tecnología ETH de ZúrichEnlace externo en 2021: a pesar de que «el aumento de los discursos de odio ha ido acompañado de grandes esfuerzos por reducirlos, la moderación de contenido por parte de los gobiernos y las grandes plataformas de redes sociales» podría suprimir también contenido valioso y contribuir «a propagar los discursos de odio, más que a disminuirlos». Según dicho estudio, tanto organizaciones internacionales como la sociedad civil apuestan cada vez más por el contradiscurso como estrategia para combatir el discurso de odio.
Estas conclusiones son de 2021. Desde entonces, el poder se ha concentrado todavía más, y las alianzas entre los gobiernos autoritarios y las grandes empresas son aún más fuertes. Elon Musk, dueño de X (antes Twitter), no oculta su admiración por el presidente de la India Narendra Modi, a quien tanto la oposición como observadores independientes critican por su discurso islamófoboEnlace externo. Así, en la India de Modi, donde la libertad de prensaEnlace externo es cada vez menor, la moderación de contenido podría convertirse fácilmente en un instrumento de represión.
Los efectos de la empatía
El estudio del ETH de Zúrich, llevado a cabo en 2021 y titulado ‘Empathy-based counterspeech can reduce racist hate speech in a social media field experiment’, ha sido leído 30.000 veces, un auténtico récord para un artículo académico. Dicho estudio se dedicó a analizar más de 1.000 cuentas de X aparentemente gestionadas por personas que publicaban tuits con discursos de odio.
Los perfiles se dividieron en cinco grupos: uno de ellos sirvió de grupo de control, mientras que los demás empezaron a recibir reacciones de cuentas creadas por las personas investigadoras: unas en un tono neutral y apolítico, otras con un tono humorístico, otras advirtiendo de las posibles consecuencias del tuit, y por último, reacciones que apelaban a la empatía.
Este experimento mostró que los memes de animales no tenían ningún efecto, ni tampoco la advertencia de que el tuit podía verlo la familia o el jefe de quien lo publicaba. Sin embargo, sí tuvieron efecto las reacciones que apelaban a la empatía, comentarios como «este tipo de lenguaje es muy doloroso para las personas afroamericanas». Los efectos fueron «consistentes, si bien relativamente limitados». Quienes recibieron “jarabe de empatía”, publicaron menos tuits xenófobos, postearon menos en general y acabaron borrando el tuit original en más ocasiones.
Menos moderación y más contradiscurso
El instituto The Future of Free Speech, de la Universidad Vanderbilt de Tennessee, recomienda la lectura del estudio del ETH de Zúrich en su Manual del ContradiscursoEnlace externo.
Incluso las voces que más defienden la libertad de expresión, y que por tanto son más contrarias a la moderación, apoyan las estrategias del contradiscurso. En una antología sobre el contradiscursoEnlace externo publicada en 2023, Jacob Mchangama y Natalie Alkiviadou, integrantes de The Future of Free Speech, alegan que «la censura en forma de moderación de contenido» ha perjudicado a la disidencia en Siria y Afganistán en muchas ocasiones.
Mchangama y Alkiviadou aseguran que la moderación de contenido automatizada de Youtube ha suprimido miles de vídeos grabados por la oposición siria para documentar la guerra civil. De manera análoga, advierten, si la UE pretende que «lo que es ilegal fuera de la red sea ilegal también en la red», lo será en detrimento de las personas queer en Hungría, donde hay leyes contra el colectivo LGTBIQ+, o de las personas antirreligiosas en España, donde la blasfemia todavía es delito.
En vista de lo cual, para Mchangama y Alkiviadou, el contradiscurso es la única manera de rebatir los discursos de odio en internet.
Treinta mil comentarios en un mes
Sophie Achermann, del proyecto Stop Hate Speech, y su fundación afiliada Public Discourse Foundation, colaboran con los grandes medios suizos, cuyos comentarios en línea monitorean y analizan. En una ocasión se toparon con una cuenta que había publicado 30.000 comentarios en un mes. «Nadie pensó que fuera una persona real», recuerda Achermann. «Pero lo era».
Achermann y su equipo utilizan las conclusiones y experiencias obtenidas en sus análisis para asesorar a las organizaciones que puedan verse afectadas por los discursos de odio online, como es el caso de la Fundación por la igualdad de género de Ginebra, con la esperanza de generar un efecto goteo. «Queremos motivar a personas anónimas que no se dedican a la política ni tienen cientos de miles de seguidores», afirma Achermann.
«Para acallar a ese 1% que genera el 65% del odio en internet no necesitamos a tanta gente».
Trabajo en equipo
En Stop Hate Speech también enseñan a quienes reciben los ataques de odio a minimizar sus efectos negativos. Para empezar, estas personas no son quienes deben reaccionar a los ataques, ya que para ellas, la carga emocional que supone enfrentarse al discurso de odio y a quienes lo generan es mucho mayor.
Inspirándose en la iniciativa de Stop Hate Speech, Caspar Weimann coordina desde el norte de Alemania grupos de chat con gente dispuesta a reaccionar a los discursos de odio. «Cuando alguien cuelga un post que necesita un contradiscurso, tenemos una amplia red de artistas que ayudan a reconducir la conversación», asegura Weimann. Una red que va creciendo gracias a los seminarios que organizan Weimann y sus colegas artistas.
«Yo reacciono a discursos misóginos, pero si el odio va dirigido a la transfobia, lo pongo en el grupo y pido que reaccione otra gente», nos cuenta Weimann, que en esta entrevista lleva una gorra con el mensaje «Dios es trans».
Corporaciones gigantescas y espacios de interacción
Hace poco, Weimann ha participado en un proyecto performático en TikTok que consistía en grabar vídeos imitando el estilo de los coach de masculinidad dirigidos a jóvenes en riesgo de convertirse en misóginos radicales. Estos vídeos, que abogan por defender la conciencia emocional y la vulnerabilidad, tienen millones de visualizaciones y han sido compartidos miles de vecesEnlace externo. Para Weimann es fundamental que la gente del mundo del arte no abandone estas plataformas, sino que se haga un lugar en ellas y las utilice.
Para Weimann, detrás de las redes sociales hay «corporaciones gigantescas que pueden ser tremendamente peligrosas», pero a la vez son «espacios de interacción social donde se está moldeando nuestra democracia».
Le preguntamos cuánta gente hay en los grupos de chat de contradiscurso. «A ver», dice Weimann, y saca el móvil. «250 en WhatsApp y 95 en Signal». No hacen falta más para cambiar las cosas con el contradiscurso.
Mostrar más
La actualidad de España e Hispanoamérica en la prensa suiza
Editado por Mark Livingston. Adaptado del alemán por Cristina Esteban / CW.
Mostrar más
«Winter Palace», la primera serie suiza de Netflix, marca la pauta de lo que está por venir
Mostrar más
Los recortes suizos debilitan una Ginebra internacional bajo presión
Mostrar más
Recortes en la ayuda internacional: ¿cómo se sitúa Suiza?
Mostrar más
La brecha de género se agudiza en la política suiza
Mostrar más
Alpes suizos y discreción, el cóctel perfecto para la gente famosa
En cumplimiento de los estándares JTI
Mostrar más: SWI swissinfo.ch, certificado por la JTI
Puede encontrar todos nuestros debates aquí y participar en las discusiones.
Si quiere iniciar una conversación sobre un tema planteado en este artículo o quiere informar de errores factuales, envíenos un correo electrónico a spanish@swissinfo.ch.