De la modération

Posted on


Une tribune d’Okhin

Le sujet fleurit dans tous les espaces. Les GAFAM demandent à cor et à cri des règles de modération qu’ils pourraient appliquer, se contentant pour le moment de leurs « règles communautaires » qui ne sont au final ni des règles — dans le sens où elles ne sont appliquées que partialement — ni communautaires — car personne d’autre que les GAFAM n’a été impliqué dans leur processus de rédaction. À la dernière RightsCon à Tunis, de nombreuses discussions tournaient autour des problèmes liés à la gestion de la haine en ligne et à la modération de contenu, et autour du rôle que les plateformes devraient tenir vis-à-vis de leurs utilisatrices. Les systèmes fédératifs se jettent aussi dans la discussion : Mastodon a instauré un critère de Safe Space[1], demandant à chaque instance voulant être listée sur https://joinmastodon.org de mettre en place des mesures de modération active dans le but de lutter contre les discriminations. Nous-même, au sein de La Quadrature, sommes en pleines discussions, parfois houleuses, vis-à-vis de la modération de notre instance Mamot.fr (qui n’est donc, pour l’instant, pas listée sur https://joinmastodon.org). Les gouvernements veulent, encore une fois, combattre la haine en ligne (voir par exemple, la proposition de loi de la députée Avia pour combattre la haine en ligne) et la radicalisation et cherchent à s’en remettre aux pouvoirs privés des GAFAM.

Le débat s’est centré sur la régulation de la parole en ligne. S’appuyant sur le fait qu’il faut bien faire quelque chose, et suite à l’attaque terroriste commise par un militant identitaire contre deux mosquées à Christchurch en Nouvelle-Zélande, les États et les plateformes géantes se sont alliées dans un vibrant appel de Christchurch[2]. Cet appel se contente de promouvoir la solution magique de la suppression de contenu en ligne, sans se poser la question de ce qui a poussé nos sociétés vers cette violence extrême. En refusant de voir les menaces posées par la coordination des groupes promouvant la culture de la haine de l’autre et de les considérer dans leur globalité, en les réduisant aux seuls espaces des médias sociaux, les États et plateformes montrent que leur intérêt n’est pas de combattre la haine, mais de réguler la pensée. Car se reposer sur les systèmes mis en place par les plateformes pour filtrer le débat, leur déléguer la tâche de déterminer ce qui est une parole haineuse c’est établir que, d’une part, les États abandonnent totalement leur rôle de protection des personnes minorisées, et que, d’autre part, ce qui est publié sur les plateformes, et qui reste en ligne, n’est pas une parole de haine.

La marginalisation des minorités

Réduire l’émergence d’une culture de la haine à un simple problème pouvant être résolu par des maths, à un problème spécifique aux médias sociaux, c’est nier l’implication des différents gouvernants et autres personnes publiques et politiques dans la propagation et la tolérance des idées de cette culture de la haine. C’est considérer qu’il ne s’agit que d’un phénomène marginal, qui peut se régler avec un filtre, faisant magiquement disparaître cette culture. Le débat sur le contrôle de la parole en ligne n’est pas, au final, celui de la lutte contre les discriminations et la haine. C’est certes une tendance inquiétante de nos sociétés, et ces cultures de la haine doivent être combattues, en ligne comme hors ligne, mais la régulation de la parole sur des plateformes monolithiques et hégémoniques ne fait que renforcer les cultures mises en avant par ces plateformes, au détriment des personnes et cultures minorisées. Que ce soit en démonétisant le contenu produit par les membres de ces communautés (comme le fait YouTube), en bannissant les personnes répondant à leurs agresseurs (comme le fait Twitter) ou par la suppression massive du contenu non-conforme (comme l’a fait Tumblr), les principales personnes victimes de cette suppression de la parole sont toujours les personnes censées être protégées par ces mesures. Ce sont les activistes, journalistes et chercheurs qui pâtissent le plus de la suppression du contenu « faisant l’apologie du terrorisme », pas les organisations terroristes.

Les termes du débat ne sont pas ceux de la modération ou de la protection des personnes victimes de violences. Ce sont ceux de l’abandon de la diversité culturelle au profit d’une méga-culture dominante et prédatrice, promue par quelques intérêts privés ; de la consécration par les plateformes du modèle culturel des identitaires, des suprémacistes et des conservateurs, reléguant quiconque refuse leur vision du monde dans les marges. Mais c’est aussi l’entretien de la confusion entre publier et promouvoir. Confusion derrière laquelle les GAFAM se cachent pour continuer leurs opérations d’éradication des cultures non-voulues et de monétisation de la haine. Il y a pourtant une différence importante qui, dans la loi Française, est la différence entre le statut d’hébergeur et celui d’éditeur. La différence est sur l’intentionnalité. Publier un contenu, c’est à dire le mettre à disposition du public, est fondamentalement différent de promouvoir ce contenu. La promotion ce n’est pas mettre à disposition du public. C’est prioriser un contenu, pour le mettre en avant et le diffuser activement au plus grand nombre de personnes possibles. Laisser les GAFAM faire croire qu’ils ne font que publier du contenu c’est leur permettre de faire pencher le débat en leur faveur, car ce n’est alors pas de leur faute si des identitaires s’en vont tuer des personnes à l’arme automatique, vu qu’elles n’ont pas promu le contenu.

La modération, en tant que pratique culturelle

Mais qu’est-ce que la modération ? Il s’agit d’un ensemble de pratiques, plus ou moins informelles, permettant à chacune de participer au développement culturel des communautés — choisies ou non — auxquelles elle appartient tout en réduisant les violences en son sein. Son but n’est pas la suppression des contenus ou des personnes, mais la réduction des violences. Elle s’inscrit dans le cadre d’une culture et est donc nécessairement liée aux contextes dans lequel elle prend place, faisant de la modération une pratique nécessairement interprétative. Ce n’est pas du « tone policing » ou de la censure. La modération reconnaît que l’on puisse être énervé, virulent ou maladroit. Au cœur de toute interaction sociale, elle reconnaît nos imperfections, nos sentiments mais aussi nos capacités de raisonnement et cherche activement à réduire les comportements violents, blessants et destructeurs. Elle nous permet de faire ensemble, de créer des communautés. Dans un contexte de destruction et de réduction culturelle au profit d’une hégémonie, il paraît impossible de parler de modération. Une pratique renforçant et soutenant les violences commises au nom d’une culture ne saurait être de la modération. Comme la modération, c’est une forme de contrôle social. Mais utilisée dans le but de détruire et blesser un ou plusieurs groupes culturels ou communautés.

Oui c’est une pratique active qui nécessite une implication forte dans les communautés concernées, et donc une compréhension de celles-ci. Et une communauté, ça se cultive, ça se travaille. Un peu comme un jardin : Il faut parfois favoriser une plante un peu faible vis à vis d’autres envahissantes, mais la plupart du temps, il suffit de laisser faire et de s’assurer que chacune dispose des ressources nécessaires à son développement. Vouloir modérer les plateformes des GAFAM, selon les termes qu’ils nous proposent, c’est faire de l’agriculture industrielle : destruction de la diversité, destruction des sols, maximisation des profits et uniformisation des semences.

Les gardiens de la morale

Les GAFAM cherchent d’ailleurs à se positionner en garants de la morale, de la bonne tenue des débats et s’octroient le droit de déterminer ce qui est autorisé à exister. Ils prétendent pouvoir accomplir la titanesque tâche de comprendre l’intégralité du contexte associé à chaque morceau d’information entreposé dans leurs silos étanches. Le tout dans la plus grande opacité, sans aucun contre-pouvoir ni processus d’appel effectif et dans des conditions de travail difficiles et précaires pour les personnes chargées de valider les contenus. Ce modèle n’est pas celui de la modération. C’est celui de la domination, de la promotion d’une seule et unique culture et de la suppression de toutes les autres. Maintenir l’illusion que cette domination est une modération met en danger toutes les personnes qui s’opposeraient à cette domination.

Un tweet peut être légal aux États Unis, et illégal en France. Ou, plus exactement, la promotion du contenu d’un tweet faisant « l’apologie du terrorisme » est illégale en France. Charge aux plateformes de se débrouiller avec ces codes pénaux incompatibles entre eux, quitte à faire du zèle (une grande partie des contenus supprimés dans le cadre de la lutte anti-terroriste sont, en fait, des contenus postés par des activistes cherchant à documenter ce qu’il se passe sur le terrain [3]) ou à rejeter leurs responsabilité sur les algorithmes fermés et opaques, structures mathématiques quasi-divines auxquelles les GAFAM vouent un culte dogmatique. Ou alors, elles vont magouiller pour ne pas être tenues responsables, tout en continuant impunément de promouvoir les contenus qui rapportent à leurs clients publicitaires. Et donc les contenus dépourvus de complexité et de nuances. Et c’est ce qui est en réalité au cœur des débats en ce moment : le modèle d’affaire, basé sur la mesure de l’engagement de ces entreprises.

Un Internet des polémistes ?

En utilisant la mobilisation, ou l’engagement, des utilisateurs (et donc, en comptant le nombre de vues, de repartage, de réponses) comme mesure du capital et de la richesse des personnes, on met en avant les interactions avec le contenu, quel que soit le contenu ou l’interaction. Comme de nombreux polémistes en font régulièrement la preuve, il est bien plus facile de mobiliser massivement en tenant un discours polarisant, émotionnel, simplificateur et clivant que de le faire en faisant preuve de démonstrations rigoureuses, en s’appuyant sur des faisceaux de faits, ou en usant de subtilité et de nuance. Les mesures d’engagement ont donc pour but de créer des comportements agressifs et haineux afin de maximiser le profit des GAFAM.

Proposer une métrique différente pourrait favoriser les contenus qui rendent les utilisateurs heureux — du moins pour une certaine définition de heureux, mais on se retrouverait alors à n’avoir que du contenu « mignon » et des plateformes sur lesquelles il serait impossible de demander de l’aide psychologique ou médicale par exemple. C’est le modèle au cœur de Facebook et basé sur le « like » supposé encourager les comportements vertueux. Et, en cas de conflit, les utilisatrices se retrouvent à la merci du dieu tout puissant qui administre la plateforme et décide seul et sans aucune transparence de ce qui est considéré comme du contenu acceptable, sans processus d’appel. Changer la métrique et le modèle d’affaire n’est pas suffisant. Le problème est qu’il existe des dieux, des entités ayant tout pouvoir sur le contenu existant sur leurs machines, décidant de ce qu’ils acceptent de publier et de promouvoir et imposant leurs décisions aux membres de leurs plateformes.

Pour stopper la propagation de propos haineux, il faut cesser d’en faire la promotion. C’est évident pour quiconque critique les chaînes d’information en continu qui invitent ad nauseam les mêmes polémistes « ne pouvant s’exprimer nulle part ». Les techniques de harcèlement en ligne sont basées sur la promotion de contenu spécifique à destination d’une personne, ou de ses cercles d’amis. Que ce soit en le partageant et en le repartageant ou en mobilisant une armée de bots pour inonder les mentions d’une personne de contenu haineux, les médias sociaux servent d’amplificateurs. Ils sont conçus pour amplifier votre voix, votre message, quel qu’il soit mais à condition qu’il puisse être monétisé. Si vous atteignez un certain volume de messages, vous pouvez créer une tendance, tendance qui générera encore plus d’engagement. Comme dans le système du capitalisme financier, plus vous avez d’engagement, plus vous avez d’engagement. Tant que le modèle d’affaire de ces entreprises sera basé sur la promotion — la mise en avant — de contenu, alors elles n’ont aucun intérêt à donner aux communautés les moyens de décider elles-mêmes de comment elles souhaitent gérer le contenu.

Un Internet des protocoles : libre, décentralisé et ouvert

C’est pourtant la seule solution pour construire un Internet permettant à tout le monde de pouvoir exister et d’être ce qu’elles ont envie d’être, d’échapper à une certaine forme de déterminisme. En fournissant des outils aux communautés d’utilisatrices et en acceptant que plusieurs cultures doivent coexister sur une même plateforme, alors il devient possible d’envisager une modération de contenu convenant aux communautés. Ce n’est pas pour autant que chacune de ces communautés deviendra un havre de paix, et qu’il n’y aura plus aucun conflit en ligne, mais chacune disposera de moyens pour réduire les violences infligées par celles qui abusent du système. Chacune de ces communautés pourra améliorer les systèmes qui lui semblent imparfaits, décider des règles qu’elles veulent suivre, sans pouvoir les imposer aux autres. Chacune d’entre elle pourra contribuer au fragile édifice qu’est Internet, et bénéficier des contributions des autres.

Et pour que ces outils existent, il faut séparer les rôles techniques (administratrices système, développeuses) de ceux de la gestion du contenu (éditrices, modératrices, contributrices). Il faut que le transit de données, et leur stockage, soit fonctionnellement séparés de la gestion de contenu, de la promotion de celui-ci et des éventuels filtrages. Il faut des outils permettant de pouvoir communiquer avec les plateformes, existantes et à venir, d’interagir avec leur contenu, sans nécessiter une intervention d’une administratrice technique. Des outils interopérables, permettant à chacune de contribuer, de construire, de forker et d’améliorer cet Internet, non plus basé sur des silos de données étanches, des apps ou des plateformes hégémoniques, mais basés sur des protocoles servant de substrat à de multiples cultures. La bonne nouvelle, c’est que ces outils existent. Le partage de fichier en pair à pair en est un bon exemple. Des messageries qui fonctionnent par-dessus des systèmes de distribution de trafic réseau tels que Tor ou GNUNet apparaissent un peu partout. En se concentrant sur l’interopérabilité, ainsi qu’en utilisant des systèmes ne reposant pas sur une identification centralisée, tout en retirant aux administratrices les capacités de promotion ou de suppression de contenu, alors il devient possible de créer des filtres, des agrégateurs collectifs, ou toute autre solution qu’une communauté pourra juger pertinente pour son cas d’usage. Il devient possible de construire des systèmes multi-culturels et réduisant les violences, et donc d’effectuer une modération pertinente et nécessaire à la vie saine des groupes de personnes partageant au moins une part de ces cultures.

Non, il n’est pas possible de modérer les plateformes hégémoniques monoculturelles. Mais ce n’est pas pour autant qu’il n’est pas possible de créer des espaces modérés en ligne, choisis et définis par leurs membres et non par des dieux techniciens jugeant de ce qu’ils doivent promouvoir ou publier.


  1.  https://joinmastodon.org/covenant
  2.  https://www.appeldechristchurch.com/
  3.  https://www.wired.com/story/facebooks-hate-speech-policies-censor-marginalized-users/