Comment les militants des discours de haine ont trouvé le point faible de Facebook
Il a fallu moins de deux heures à Facebook pour réagir et il l’a fait pour de bonnes raisons.
À 17 heures vendredi, Unilever, l’un des plus grands annonceurs au monde, avec un portefeuille de produits allant de la Marmite à la Vaseline, a soudainement annoncé qu’il retirait toutes ses publicités de Facebook, Instagram et Twitter aux États-Unis.
Compte tenu de « l’atmosphère polarisée aux États-Unis », a déclaré l’entreprise, et du travail important qui reste à faire « dans les domaines de la division et du discours de haine… continuer à faire de la publicité sur ces plateformes en ce moment n’apporterait pas de valeur ajoutée aux gens et à la société ».
À 18h47, Facebook s’est brouillé.
Mark Zuckerberg, a-t-il dit, allait « aller en direct sur sa page Facebook » pour discuter du travail de l’entreprise en matière de justice raciale. Treize minutes après, le chef d’entreprise le plus puissant du monde est apparu sur les écrans.
Humble, il a annoncé une série de nouvelles politiques, notamment une interdiction des contenus haineux qui ciblent les immigrants, et de nouvelles restrictions sur les posts faisant de fausses déclarations sur le vote.
Asad Moghal, un responsable numérique et de contenu senior chez Byfield Consultancy, a déclaré que l’action d’Unilever allait toujours forcer Zuckerberg à réagir. « Lorsqu’un tel géant international décide que l’inaction n’est plus une option pour lutter contre les propos racistes et discriminatoires, alors les entreprises de médias sociaux doivent écouter.
« En prenant des mesures financières, une entreprise de la taille d’Unilever peut provoquer un changement et forcer la main à Twitter et Facebook ; l’entreprise a décidé qu’elle devait protéger la réputation de sa marque et ne peut plus être associée à des plateformes qui diffusent des discours haineux et des contenus qui divisent. Mais ce qui fera vraiment changer les choses, c’est si ce geste crée un effet domino et que d’autres grandes entreprises retirent leurs investissements des plateformes. »
La série d’annonces a marqué les premières concessions de Facebook envers les objectifs d’une coalition, Stop Hate for Profit, qui a été formée à la suite du meurtre de George Floyd en mai.
Mais les dirigeants du groupe disent que les retouches ne vont pas assez loin, et réitèrent leurs appels à un boycott mondial des annonceurs d’un mois à partir de mercredi.
Le vrai danger pour Facebook est que d’autres marques décident qu’elles peuvent aussi se passer de la plateforme.
Cette crise est en gestation depuis longtemps – et ne montre aucun signe de disparition.
Facebook a historiquement adopté une ligne plus douce sur les discours de haine que sur d’autres contenus controversés, comme ceux contenant de la nudité, en partie par conviction de l’ambiguïté inhérente aux discours offensifs, et en partie en raison de la difficulté d’automatiser un tel travail.
Identifier un discours de haine repose sur la connaissance du contexte, des coutumes et de la culture, ce qui peut être difficile à enseigner aux modérateurs humains, et encore moins aux machines.
Ces dernières années, Facebook a fait des progrès dans ce domaine. Au troisième trimestre 2017, selon son rapport sur les normes de la communauté, Facebook a trouvé par lui-même un peu moins d’un quart des discours haineux ; les trois autres quarts n’ont été retirés qu’après que les utilisateurs du site les aient signalés manuellement aux modérateurs, qui ont ensuite pris des mesures.
Au printemps dernier, les proportions s’étaient inversées : 88 % des discours haineux retirés du site ont été trouvés par les propres outils de Facebook, ce qui lui a permis de retirer ou de restreindre près de quatre fois plus de discours haineux que deux ans plus tôt.
Mais travaillant contre l’expertise technique de Facebook était un autre facteur : le président américain.
Dès 2015, selon un reportage du Washington Post, le réseau social a lutté pour savoir comment traiter avec un homme qui, d’abord en tant que candidat, puis en tant que président, a repoussé les limites de ce qui était autorisé à être affiché.
Au lieu de cela, Facebook a régulièrement modifié ses propres règles pour éviter de mettre le président en colère : en introduisant en 2015 une exception pour le « discours politique » afin de permettre à une vidéo appelant à l’interdiction de l’entrée des musulmans aux États-Unis de rester affichée, par exemple, ou en limitant les efforts pour s’attaquer aux « fausses nouvelles » par crainte que cela ne frappe de manière disproportionnée les pages et les affiches de droite.
Lors des manifestations suscitées par la mort de Floyd, Trump a de nouveau testé les limites, en publiant sur Facebook et Twitter un message selon lequel « quand les pillages commencent, les tirs commencent ».
Twitter, notant l’histoire raciste de la phrase, et l’interprétant comme un appel potentiel à la violence, a appliqué une politique qu’elle avait promulguée l’été dernier pour une telle occurrence : la société a restreint le tweet, l’empêchant d’être répondu ou aimé, et l’a caché derrière un avertissement déclarant que le tweet enfreignait ses règles. Mais elle l’a laissé en place, invoquant le caractère intrinsèquement digne d’intérêt d’une déclaration faite par un élu ayant des millions d’adeptes.
Sur Facebook, cependant, le message n’a pas été modifié. Dans un message sur sa page personnelle, Zuckerberg a écrit qu’il interprétait la déclaration non pas comme une incitation à la violence mais comme « un avertissement sur l’action de l’État ». « Contrairement à Twitter, a-t-il écrit, nous n’avons pas pour politique de mettre un avertissement devant les messages qui peuvent inciter à la violence, car nous pensons que si un message incite à la violence, il doit être supprimé, qu’il soit digne d’intérêt ou non, même s’il provient d’un politicien. »
La décision est devenue un point d’éclair pour le malaise persistant sur les problèmes plus larges de Facebook en matière de lutte contre la haine sur sa plate-forme – tout comme la décision de Zuckerberg, une semaine plus tôt, d’apparaître sur Fox News pour défendre un post différent de Trump, sur le vote par correspondance, en disant qu’il ne pensait pas que sa société devait devenir « l’arbitre de la vérité ».
Le personnel de Facebook a commencé à s’exprimer sur les médias sociaux, organisant un débrayage virtuel pour souligner que « ne rien faire n’est pas acceptable ».
Les modérateurs employés de façon précaire par l’entreprise se sont joints à eux, risquant leurs emplois sous contrat pour décrier « l’exceptionnalité blanche et la légitimation supplémentaire de la brutalité de l’État ».
Même les scientifiques financés par l’organisme de bienfaisance personnel de Zuckerberg, la Chan Zuckerberg Initiative, ont pris la parole, qualifiant le post de Trump de « déclaration claire d’incitation à la violence ».
Avec une certaine fanfare, Zuckerberg a nommé en mai un conseil de surveillance – une liste d’experts qui aura le pouvoir d’annuler les décisions de modération de Facebook.
Il comprend Helle Thorning-Schmidt, un ancien premier ministre du Danemark, le lauréat du prix Nobel de la paix Tawakkol Karman et Alan Rusbridger, un ancien rédacteur en chef du Guardian.
Mais la difficulté de mettre en place une nouvelle organisation à l’ère du Covid-19 signifie que le conseil n’a pas été en mesure d’enlever la chaleur de Zuckerberg.
« La stratégie de Zuckerberg pour faire face à Trump est un mélange incohérent de deux approches de leadership », a déclaré Chris Moos, expert en leadership et chargé d’enseignement à la Saïd business school de l’Université d’Oxford.
Là où certains ont tenté de trouver des « approches pratiques pour gérer ces tensions » qu’ils rencontrent au travail, et d’autres ont fait appel « à des principes d’ordre supérieur », Zuckerberg a essayé les deux et n’a réussi ni l’un ni l’autre. « D’un côté, il a engagé un large éventail de parties prenantes dans le débat, en jetant de l’argent dans des initiatives visant à construire la justice raciale et l’engagement des électeurs. De l’autre, le PDG de Facebook a essayé de s’élever au-dessus de la controverse en précisant que son entreprise se trompera sur le côté de la liberté d’expression, ‘même quand il s’agit d’un discours avec lequel nous sommes fortement et viscéralement en désaccord’. »
Zuckerberg ne pourra jamais être démis de ses fonctions. Alors qu’il ne possède que 14 % de l’entreprise, la classe spéciale d’actions qu’il détient lui permet de contrôler 57 % des droits de vote lors des réunions du conseil d’administration. Mais la pression des employés peut lui nuire, professionnellement et personnellement : si Facebook n’apparaît plus comme un lieu de travail agréable, plaisant et gratifiant, l’entreprise aura du mal à embaucher et à retenir le personnel hautement qualifié sur lequel elle compte pour être compétitive dans la Silicon Valley.
En juin, la campagne Stop Hate for Profit a trouvé un autre point faible du site : les annonceurs. Si Facebook prélève certains revenus directement auprès des utilisateurs, pour des produits comme son visiophone Portal ou ses casques Oculus VR, la grande majorité des 70,7 milliards de dollars (57,5 milliards de livres sterling) de revenus annuels de l’entreprise provient de la publicité. Le 17 juin, Color of Change, ainsi que la NAACP, l’ADL, Sleeping Giants, Free Press et Common Sense Media, ont lancé une demande publique pour que « tous les annonceurs soient solidaires des utilisateurs noirs de Facebook et envoient le message à Facebook qu’ils doivent changer leurs pratiques en mettant en pause toutes les publicités sur les plateformes appartenant à Facebook pour le mois de juillet 2020 ».
Plusieurs de ces annonceurs étaient déjà mal à l’aise quant à leurs dépenses sur Facebook avant la dernière campagne. Le site, comme toute publicité programmatique, peut avoir des problèmes de « brand safety » lorsque les entreprises trouvent leurs messages à côté de contenus extrêmes ou haineux. Au niveau macro, pendant ce temps, les spécialistes du marketing ne sont que trop conscients des risques de contribuer à consolider le « duopole » de Facebook et Google, qui ont assuré à eux deux la majorité de la croissance du secteur de la publicité.
Mais même si la campagne Stop Hate for Profit poussait une porte ouverte, le succès a été surprenant. À la fin de la première semaine, Patagonia, North Face et la plateforme de freelancing Upwork avaient signé. Et la décision d’Unilever de suspendre sa publicité jusqu’en novembre – bien que seulement aux États-Unis et sans citer directement la campagne – a ouvert les vannes. Au cours du week-end, elle a été rejointe par d’autres grandes marques, dont Coca-Cola et le conglomérat d’alcool Beam Suntory.
« Soyons honnêtes », a déclaré Moghal, « ces plates-formes technologiques ont généré des revenus et de l’intérêt à partir de ce contenu qui divise ; ils ne changeront pas leurs pratiques jusqu’à ce qu’ils commencent à voir une réduction significative de leurs revenus. »
Avec le boycott qui commence officiellement mercredi, les militants ne relâchent pas la pression. En fait, le succès n’a fait qu’accroître les ambitions.
« La prochaine frontière est la pression mondiale », a déclaré lundi à Reuters Jim Steyer, le directeur général de Common Sense Media. Si certains, dont North Face et Patagonia, ont étendu leur boycott au niveau mondial, d’autres se contentent pour l’instant de retenir leurs dépenses aux États-Unis. Si même cela suffit à faire passer Zuckerberg devant une caméra en moins de deux heures, les militants espèrent que le pouvoir de l’action mondiale pourrait motiver un changement durable.
{topLeft}
{bottomLeft}}
{topRight}
{bottomRight}}
{{/goalExceededMarkerPercentage}}
{{/ticker}}
{{heading}}
{{#paragraphs}}
{{.}}
{{/paragraphes}}{{texte mis en évidence}}
- Partager sur Facebook
- Partager sur Twitter
- Partager par courriel
- Partager sur LinkedIn
- Partager sur Pinterest
- Partager sur WhatsApp
- Partager sur Messenger
.