Depuis des années, elles collaboraient avec Meta pour rendre l’espace numérique plus sûr face aux discours haineux et aux discriminations. Mardi 7 janvier, elles apprennent par une vidéo de Mark Zuckerberg que la modération de ses contenus va changer radicalement sur Facebook et Instagram. Depuis, les associations partenaires de Meta, sur lesquelles l’entreprise s’est appuyée pour lutter contre les discriminations en ligne, oscillent entre déception et anticipation du pire.
« Avec ces mesures, la hausse des violences concrètes est une certitude », avertit Julia Torlet, présidente de SOS Homophobie. L’association, qui lutte contre les discriminations à l’encontre des personnes LGBT+, travaillait avec Meta depuis plusieurs années pour améliorer la modération humaine et automatisée des discours haineux.
Après « un vrai travail de fond et de réels progrès », le virage de la compagnie américaine inquiète d’autant plus Julia Torlet, qui met en garde contre le risque d’agressions : « La libération de la parole haineuse en ligne favorise cette même libération dans la vraie vie, mais aussi le passage de la parole à l’acte. »
L’identité de genre et l’orientation sexuelle ont été les deux premières catégories à être visées officiellement par les mesures de Meta. Les « règles de la communauté » sur Facebook et Instagram autorisent désormais explicitement à affirmer que les femmes sont des objets, ou à qualifier de « maladie mentale ou d’anormalité » l’homosexualité ou la transition de genre.
Mais au-delà des annonces officielles, un document interne de Meta, consulté par Platformer et The Intercept, précise un périmètre beaucoup plus large des discours de haine à ne pas modérer. Des messages comme « les immigrés mexicains sont des ordures », « les Noirs sont plus violents que les Blancs » ou « les juifs sont plus cupides que les chrétiens » sont ainsi désormais autorisés, d’après ces consignes adressées aux équipes de modération.
Leave a Comment