Modération des comptes et vidéos extrémistes : ce que les plateformes peuvent faire de plus

YouTube l'a annoncé hier sur son blog officiel : les vidéos qui « promeuvent ou glorifient l’idéologie nazie », et celles qui « nient l’existence d’événements violents bien documentés, comme l’Holocauste ou la fusillade de Sandy Hook », seront désormais bannies de sa plateforme.

L'annonce de YouTube (filiale de Google depuis 2006) intervient un mois après la décision de Facebook de supprimer de son site ainsi que de sa filiale Instagram les comptes de plusieurs promoteurs de discours violents, racistes, antisémites ou encore complotistes. Le réseau social de Mark Zuckerberg, souvent accusé de passivité face aux contenus haineux et complotistes, a décidé de supprimer les pages, groupes et comptes à leurs noms ainsi que les événements auxquels ils participent.

Parmi les personnalités visées par ces mesures, on trouve Alex Jones, animateur du site InfoWars, déjà banni de YouTube, Spotify et Twitter. Le célèbre complotiste américain, vis-à-vis duquel Donald Trump a plusieurs fois témoigné sa sympathie, prétend entre autres que le 11 septembre 2001 est un false flag et que le massacre de l’école primaire Sandy Hook en 2012 (qui a fait 26 morts dont 20 enfants) est une mise en scène.

Louis Farrakhan fait également partie du lot. Connu pour ses prises de position antisémites et homophobes, le leader de la « Nation of Islam » s'est illustré pour ses éloges d'Adolf Hitler ou, récemment, pour avoir déclaré que les juifs étaient « les pères et les mères de l’apartheid ». Ce qui n'a pas empêché plusieurs personnalités du monde de la musique ou de la télé-réalité telles Rick Ross, Kanye West ou encore Snoop Dog, de le soutenir publiquement. Snoop Dog, allant jusqu'à poster sur Instagram une vidéo dans laquelle il fustige le réseau  d’avoir pris une telle décision.

Les autres personnes ciblées par Facebook sont Milo Yiannopoulos, figure de l'Alt-Right, Laura Loomer connue pour ses prises de positions hostiles aux musulmans, le suprématiste blanc Paul Nehlen, ex-candidat malheureux au Congrès, ou encore Paul Joseph Watson, youtubeur d’extrême-droite proche d'Alex Jones, que YouTube avait gratifié, début mai, d'une récompense pour son millionième abonné...

Pour Media Matters for America (MMfA), une organisation américaine qui a pour mission de surveiller, d’analyser et de corriger les informations diffusées notamment par l'Alt-Right, la prise de conscience de leurs responsabilités sociales par les grands opérateurs va dans le bon sens. En mai, l'organisation a publié une liste de propositions destinées à renforcer la lutte contre l’extrémisme sur les réseaux sociaux parmi lesquelles :

- Augmenter le nombre de modérateurs qualifiés, formés pour identifier les contenus violents qui, parce qu'ils sont de plus en plus codés, échappent à la modération effectuée par l'intelligence artificielle.

- Limiter drastiquement la visibilité d’une publication lorsque son trafic provient de sources notoirement « toxiques » telles que les forums de discussion anonyme 8chan ou 4chan. Les plateformes étant en mesure d’identifier la source du trafic, cette mesure pourrait limiter les moyens d'action de la propagande extrémiste.

- Étendre les règles anti-discrimination déjà appliquées aux annonceurs aux événements et groupes privés sur Facebook. Ces outils, qui permettent aux extrémistes de s’organiser et de se mobiliser, ne devraient plus pouvoir échapper à la politique anti-discrimination du réseau social.

- Revenir sur le partenariat conclu entre Facebook et The Daily Caller de Tucker Carlson. Facebook s’est associé à ce site web conservateur pour des missions de fact-checking. Or, The Daily Caller entretient des liens étroits avec les suprématistes blancs et les antisémites (le fondateur du site néo-nazi The Daily Stormer considère par exemple Carlson comme « le plus grand allié » de sa cause). Tucker Carlson, le fondateur du site, fait d’ailleurs souvent écho aux idées défendues par les nationalistes blancs dans son émission sur la chaîne Fox News.

- Croiser les informations de modération avec les autres plateformes. Il a été démontré que de nombreux suprématistes blancs utilisent Instagram pour dédiaboliser leur image. Se comportant comme des influenceurs lambda, les activistes d'extrême droite adoptent les codes de la plateforme pour distiller leurs thèses. MMfA recommande donc d’imiter l’approche de modération multi-plateformes de Medium : les utilisateurs qui enfreignent ses conditions d’utilisation sur d’autres sites, se voient tout simplement bannir de Medium.

Dans son rapport annuel 2018, Conspiracy Watch recommandait notamment aux prestataires de réseaux sociaux et de plateformes de vidéos en ligne ou en streaming de s’engager dans la voie d’une démonétisation des comptes extrémistes (qui constitue l'un des axes du projet StopHateMoney porté par l'Observatoire du conspirationnisme) et de modifier leurs algorithmes afin qu'ils cessent de suggérer automatiquement à leurs utilisateurs des contenus complotistes.

Voir aussi :

Etude Netino : la haine en ligne a augmenté par rapport à l'année dernière