Que faire contre la prolifération des discours de haine sur internet?

Vera Leysinger / SWI swissinfo.ch

Les discours de haine se répandent sur les réseaux sociaux, à l’heure où Meta et X restreignent leur politique de modération. Pour déjouer cette tendance, des bénévoles s'organisent et répondent à la haine en ligne en promouvant des contre-discours.

«Les gens qui propagent des discours de haine sont très bien organisés», explique Anne-Céline Machet. Les colporteurs de discours de haine en ligne communiquent entre eux et mettent en commun leurs énergies.

En tant que directrice de la Fondation pour l’égalité de genre à Genève, Anne-Céline Machet s’en inquiète. Surtout que, dès l’enfance, l’éducation genrée des femmes les conduit à être tendanciellement plus discrètes que les hommes et à ne pas prendre trop de place. Et cet effet est amplifié sur internet du fait de la prolifération des discours misogynes et des harcèlements sexistes.

Anne-Céline Machet est directrice de la Fondation pour l’égalité de genre à Genève. Rebecca Bowring

La haine en ligne à laquelle les femmes politiques, les journalistes et les créatrices de contenus sont directement exposées – et toutes les femmes qui sont confrontées à cette haine indirectement – ​​menace même la démocratie. Entre autres parce que les femmes, qui représentent une bonne moitié de la population, ne participent plus aux débats politiques en ligne. «Certaines femmes qui se sont exposées se sont retirées de la scène publique», regrette d’ailleurs Anne-Céline Machet.

C’est quoi un discours de haine?

Les discours de haine sont des insultes et des dénigrements à l’encontre d’une personne en raison de son appartenance à un groupe social. Une étude de Sotomo réalisée en 2022 Lien externea montré que 86% de la population suisse considère que la violence numérique est très ou assez répandue. 

Mais le problème est mondial. Pour la Commission antiracisme du Conseil de l’Europe,Lien externe les discours de haine induisent «de graves menaces à la cohésion d’une société démocratique». La Commission souligne que les discours de haine peuvent également alimenter les violences physiques et les conflits.

Dans une étude de l’UnescoLien externe menée dans 16 pays en 2023, 67% des personnes interrogées ont déclaré qu’elles étaient souvent confrontées à des discours de haine. Il y avait des différences entre les pays. Dans les pays occidentaux comme la Belgique, l’Autriche, mais aussi les Etats-Unis, ce chiffre était plus bas. En Indonésie, au Bangladesh et en Inde, il était nettement plus élevé.

Les personnes interrogées qui sont particulièrement touchées par les discours haineux dans tous ces pays sont les personnes LGBTQIA+, les minorités ethniques, les personnes migrantes et les femmes.

Les limites de la modération et du droit pénal

Certaines approches évidentes de lutte contre la haine en ligne sont devenues presque caduques. Par exemple, l’idée d’utiliser un algorithme pour rechercher des discours de haine sur les réseaux sociaux a fait scandale aux Etats-Unis. Et les grandes plateformes, X et Meta en tête, affaiblissent leur politique de modération.

Cependant, certains discours de haine sont punis par la loi. Par exemple, lorsqu’il s’agit de diffamation, ou en vertu du Digital Services Act dans les pays de l’Union européenne.

Sophie Achermann est la fondatrice de «Stop Hate Speech». Avec ce projet et la Public Discourse Foundation, elle s’engage pour la recherche sur les discours de haine, soutient les personnes concernées et transmet des stratégies. Yoshiko Kusano

Mais Sophie Achermann, fondatrice du projet suisse «Stop Hate Speech»Lien externe contre la haine en ligne, est convaincue que le droit pénal ne suffira pas à éradiquer le problème de la prolifération massive de ces discours dans l’espace numérique.

Une conclusion similaire est déjà tirée dans la première étude de Stop Hate Speech et de l’EPFZLien externe réalisée en 2021. Bien que «l’augmentation des discours de haine en ligne ait été accompagnée d’efforts pour les réduire», la «modération du contenu par les gouvernements et les réseaux sociaux» peut également supprimer des déclarations précieuses, voire «diffuser les discours de haine plutôt que les réduire».

Par conséquent, de plus en plus, «les organisations internationales et les organisations de la société civile se tournent vers le contre-discours comme stratégie pour contrer les discours de haine», relate l’étude.

La stratégie du contre-discours

«Nous voulons rendre les réseaux sociaux à nouveau sûrs pour les femmes et les minorités de genre». C’est le défi que s’est lancée la Fondation pour l’égalité de genre dirigée par Anne-Céline Machet. Plusieurs mois avant de lancer sa campagne en ligne à l’occasion de la journée internationale de la femme le 8 mars, la fondation a élaboré une stratégie contre les discours de haine.

Pour ce faire, la fondation a été soutenue par le projet «Stop Hate Speech». Dans ce cadre, «beaucoup de personnes sont prêtes à réagir aux discours de haine par des commentaires positifs», explique la directrice. «Et nous sécurisons, signalons et documentons les discours de haine.»

Cette approche pour lutter contre les discours de haine pourrait se faire à petite échelle. Des réseaux et des groupes de messagerie dans lesquels les militants et militantes se rassemblent permettraient d’organiser une réponse cohérente aux discours de haine, par l’élaboration et la diffusion de contre-discours.

Le «traitement empathique» et ses «effets cohérents»

Dans l’étude de l’ETHZ précitéeLien externe, les scientifiques ont observé plus de mille profils Twitter anglophones qui publiaient des tweets contenant des discours de haine. Une partie a servi de groupe témoin.

Les comptes créés par les scientifiques avec un profil neutre et non politique, ont répondu aux tweets des autres comptes. Les réponses publiées par l’équipe de chercheurs et chercheuses se caractérisaient soit par un trait d’humour, soit par la mise en avant des conséquences sociales desdits propos haineux, soit, enfin, par un appel à l’empathie.

L’expérience a montré que les mèmes amusants avec des animaux n’avaient aucun effet. Rappeler au twitteur que son message était visible publiquement par tout le monde, y compris sa famille et ses employeurs, n’a eu aucun effet. Mais les réponses qui jouaient sur le ressort de l’empathie ont donné un résultat. Par exemple, avec une phrase du type: «C’est vraiment blessant pour les Afro-Américains de voir des gens utiliser ce genre de langage.»

Les effets sont «cohérents, bien que relativement faibles». Ceux qui ont reçu le «traitement empathique» ont envoyé moins de tweets xénophobes, ont publié moins de messages au total et étaient plus susceptibles de supprimer leurs discours de haine.

Jusqu’à 30’000 commentaires en un mois

Sophie Achermann, de «Stop Hate Speech» – et la «Public Discourse Foundation» qui en résulte – travaillent désormais avec les principaux médias suisses, surveillant et analysant scientifiquement leurs espaces de commentaires en ligne.

Un jour, ils sont tombés sur un compte qui avait publié 30’000 commentaires en un mois. «Nous pensions tous que ce n’était pas un être humain», se souvient Sophie Achermann. «Mais c’était un être humain.»

Selon le projet suisse «Stop Hate Speech», environ 1% de tous les comptes en ligne sont responsables de 65% des discours de haine sur Internet.

Ce chiffre est porteur d’espoir pour les opposants et opposantes à la haine en ligne. S’il n’y a que quelques personnes qui élèvent la voix pour scander leur haine, il en faut seulement quelques-unes pour s’y opposer.

Les personnes concernées ne devraient pas faire de contre-discours

Caspar Weimann coordonne des groupes de discussion rassemblant des professionnels de la culture qui réagissent aux discours de haine. Luzia Oppermann

Le travail de «Stop Hate Speech» consiste également à apprendre aux personnes visées par les discours de haine comment minimiser leurs effets négatifs. Les personnes qui répondent aux discours de haine par des contre-discours ne devraient pas en être affectées. Pour celles qui sont directement visées par les propos en question, le fardeau psychologique que représente l’exposition aux discours de haine et à leurs auteurs est disproportionné.

Inspiré par «Stop Hate Speech», Caspar Weimann coordonne des groupes de discussion du nord de l’Allemagne avec des personnes qui répondent aux discours de haine. «Si quelqu’un publie un lien où un contre-discours est nécessaire, nous disposons d’une large masse d’artistes et de travailleurs culturels qui aident à refaçonner ces colonnes de commentaires», explique-t-il.

«Je réponds aux discours de haine misogynes, mais lorsqu’ils deviennent transphobes, je les publie dans le groupe et je demande aux autres d’y répondre», illustre-t-il.

Texte relu et vérifié par Mark Livingston, traduit de l’allemand et adapté par Julien Furrer (RTSinfo)