![Selon l'application Bodyguard, les contenus haineux ont doublé depuis la dissolution de l'Assemblée nationale.](https://static.latribune.fr/full_width/2409167/emojis-generes-par-ia.jpg)
« Tu sais, c'est pas parce que tu es journaliste que tu vas pas prendre une balle dans la tête s***** communiste. Tu passes pas le week-end, bisous. » Ce message adressé à la journaliste Salomé Saqué début juillet n'est qu'un exemple parmi d'autres. « Depuis trois semaines, mes DM (messages privés) ne ressemblent qu'à ça. C'est une vague de haine sans aucun précédent dans ma carrière », commentait l'autrice de Sois jeune et tais toi sur X (ex Twitter) le 4 juillet, quelques jours avant le second tour des élections législatives. Son nom comme celui d'autres journalistes et militants s'est ensuite retrouvé sur une liste de personnes à assassiner « d'une balle dans la nuque » sur le site Réseau Libre, qui circule en ligne dans les cercles d'extrême droite. Des avocats et des responsables politiques ont été ciblés par des menaces similaires issues de ce même site quelques jours auparavant. Quarante-quatre personnes ont porté plainte contre X le 12 juillet suite à ces publications morbides.
Depuis la campagne des élections européennes, et plus particulièrement la dissolution de l'Assemblée nationale, plusieurs personnalités ont fait part de vagues de haine à leur encontre sur les réseaux sociaux. « Les gros comptes (de centaines de milliers d'abonnés) rapportent une multiplication par 4 des messages de haine qu'ils reçoivent ces dernières semaines. Parfois, il s'agit de centaines de commentaires ultra-violents en dessous de publications pourtant a priori anodines comme "Vive la Paix" », estime Jeremy Guillon, directeur général de Safebear. Cette application web lancée en juin 2024 permet d'indexer les messages haineux, menaces de mort et autres insultes reçus via X et Instagram, et de les stocker afin de faciliter le dépôt de plainte aux personnes victimes de cyberharcèlement.
Le média en ligne StreetPress fait aussi partie des cibles. « Depuis la dissolution on a reçu 1000 mails d'insultes. Ils sont assez similaires avec quelques différences, et sont envoyés d'adresses différentes, mais cela ne veut pas dire grand-chose. C'est difficile de dire s'il s'agit d'un individu, ou d'une action groupée de plusieurs personnes qui se coordonnent via Telegram ou Discord, comme c'est parfois le cas », explique Matthieu Mollard, rédacteur en chef du média. À ces mails, s'ajoutent des milliers de commentaires haineux sur TikTok et YouTube principalement. StreetPress, qui enquête depuis plusieurs années sur l'extrême droite, est habitué à ce type de message.
« On en reçoit tous les jours, mais on constate des vagues particulièrement intenses à certains moments comme lors de l'élection présidentielle de 2022 et aujourd'hui. Quand l'extrême droite se voit au pouvoir, la parole se libère, et les attaques à l'encontre des personnes désignées comme leur adversaire se multiplient. »
Pendant les législatives, StreetPress a publié de nombreuses enquêtes sur les candidats du Rassemblement National, qui ont eu un fort écho sur les réseaux sociaux, et sur les plateaux télévisés. Le média est donc d'autant plus dans le viseur des réseaux d'extrême droite.
Marie Fernet, avocate suivie par plus de 16 000 personnes sur X, perçoit elle aussi une hausse de la haine en ligne. « En tant que femme, avocate, qui s'exprime sur la politique, je suis la cible de manière générale de nombreux messages de haine. J'ai remarqué que les choses généralement se compliquent quand vous passez le cap des 8 000 abonnés, car vous entrez alors dans des sphères qui ne sont plus les vôtres », expose l'avocate. Mais elle note que durant la période des législatives les partages de ses tweets par des comptes influents dans les sphères d'extrême droite (rassemblant plus de 50 000 abonnés) étaient plus fréquents. « Lorsque l'un de ces comptes affiche un tweet de cette façon, c'est souvent pour faire de vous la cible d'une campagne de cyberharcèlement », explique-t-elle.
Une augmentation des violences en ligne inédite
Cette hausse de la violence en ligne se confirme en chiffres. « Ce n'est pas qu'une impression », affirme Charles Cohen, fondateur de Bodyguard. Cette entreprise, lancée en 2018, s'est spécialisée dans la protection des internautes. Sa technologie permet d'identifier, de classer et de juger la sévérité des publications haineuses et autres menaces sur les réseaux sociaux. Charles Cohen a accès à des données qui prouvent que les contenus haineux ont connu un pic sans précédent ces dernières semaines.
« C'est la plus forte augmentation que nous ayons enregistrée depuis la création de Bodyguard, juge-t-il. Les réseaux sociaux sont souvent utilisés comme exutoire. Pendant la crise du Covid, les messages haineux avaient progressé de 60 %, ici nous sommes sur une hausse de 100 % entre l'annonce de la dissolution et les résultats du second tour. On était à 1,4 % de contenus haineux sur la totalité des publications avant la dissolution toutes plateformes confondues avant d'atteindre un pic de 3 %. Il en est de même pour les contenus extrêmement violents (racisme, harcèlement sexuel, homophobie) », explique le dirigeant.
Le constat est le même chez Point de Contact, une association vers laquelle les victimes et témoins de violence en ligne peuvent se tourner pour signaler des contenus. Mark Pohlmann, président de l'association, explique avoir placé « une sonde sémantique » sur le réseau social X entre le premier et le second tour des élections. Un logiciel d'intelligence artificielle (baptisé Percipion) a analysé toutes les heures le champ lexical des publications postées sous le hashtag #legislatives2024 (soit une centaine de tweets toutes les trente minutes). Le 29 juin, le soir des résultats du premier tour, le taux de menaces (intimidation, avertissement, expression hostile...) était aux alentours de 10 % pour atteindre 30 % la veille du second tour. « Après les résultats à 20 h, le taux s'est effondré », précise Mark Pohlmann.
Les messages à caractère raciste ont connu la plus forte hausse
Les chiffres recueillis par Bodyguard montrent que la hausse a été d'autant plus importante pour les insultes racistes. « La tendance est à une libération de la parole raciste, principalement contre les musulmans et les juifs, expose Charles Cohen. C'était déjà le cas depuis le 7 octobre et le conflit à Gaza, qu'il s'agisse d'insultes contre les musulmans ou contre les juifs. » Les contenus homophobes et ceux relevant du harcèlement moral (appels au suicide notamment) ont eux aussi progressé. L'augmentation est toutefois moins nette que pour les propos racistes.
Pour les entreprises et les associations qui tentent de surveiller ces messages, l'enjeu est de s'adapter au langage très mouvant des réseaux sociaux. « C'est un jeu du chat et de la souris, analyse Charles Cohen. Les personnes qui publient ce type de contenus s'adaptent toujours aux règles algorithmiques, et tentent de contourner la modération en utilisant de nouveaux termes. » En France, l'expression « dragon céleste » (issue du manga One Piece) est ainsi utilisé sur X et TikTok pour désigner les personnes juives. Dans les pays anglophones, le mot « jews » (juifs) est remplacé dans certains cas par l'émoji pack de jus de fruit (juice en anglais). Un nouveau terme que Bodyguard a vu émerger il y a quelques jours et a dû intégrer à sa technologie.
Par ailleurs, outre le volume et le pourcentage de messages haineux qui augmentent, l'intensité de la violence est elle aussi en progression. « Les contenus que l'on classe comme "sévères" et "très sévères" en termes de niveau de violence ont augmenté en juin et juillet », note Charles Cohen. Ils représentent aujourd'hui près de 30 % de la totalité des contenus toxiques répertoriés par Bodyguard.
La modération des plateformes pas assez agile pour faire face à cette vague
Pour se protéger, les personnalités visées par ces vagues de haine se protègent comme elles le peuvent. Car souvent la modération mise en place par les grandes plateformes ne suffit pas, malgré leur plus grande vigilance et les moyens supplémentaires mis en œuvre pendant les périodes électorales. Les réseaux sociaux manquent et manqueront toujours de moyens humains pour modérer la masse de messages, estiment les dirigeants de Safebear. Pour Charles Cohen, elles manquent surtout d'agilité compte tenu de leur taille, et ne parviennent pas à s'adapter rapidement aux méthodes mouvantes des cyberharceleurs.
C'est en réponse à cette faille que des entreprises comme Safebear et Bodyguard se sont construites. Le modèle semble fonctionner pour Bodyguard. L'entreprise compte 90 entreprises clientes et voit ses revenus doubler chaque année. Outre ces couches de protection additionnelle, les victimes de violence en ligne s'imposent aussi des règles d'« hygiène numérique », comme l'explique Mathieu Mollard de StreetPress. « On ne publie jamais notre adresse postale en ligne, ce qui signifie utiliser une autre adresse si l'on souhaite avoir un statut d'auto-entrepreneur par exemple. On supprime tous nos anciens comptes Facebook, pour éviter que des personnes mal intentionnées retrouvent des proches et les menacent. » De son côté, Marie Fernet dit avoir bloqué 2.500 comptes, qu'elle identifie comme proches de mouvances d'extrême droite. Lors de périodes trop intenses, elle passe son compte « sous verrou », c'est-à-dire invisible aux yeux des personnes qui ne la suivent pas.
Si Mark Pohlmann note un certain apaisement depuis les résultats des élections, Charles Cohen estime que d'expérience, après les vagues de violence, le niveau de haine moyen ne revient jamais tout à fait au niveau d'avant. « Le problème reste que la violence en ligne a été banalisée, et se fait aujourd'hui dans l'impunité, ajoute Christian Guillon, président de Safebear. Sur des milliers de plaintes déposées, seules une cinquantaine sont suivies de condamnations. » Il espère que sa technologie permettra à davantage de ces plaintes d'aboutir, en offrant aux victimes un moyen sécurisé de collecter des preuves.
Sujets les + commentés