Le shadow banning, est une pratique opaque par laquelle une plateforme diminue la visibilité d'un utilisateur à son insu, ayant pour effet de réduire le reach et l'engagement de cet utilisateur. Le but du shadow banning est de freiner la diffusion de contenus susceptibles d'enfreindre les règles d'une plateforme sans prendre de mesures directes à l'encontre de l'utilisateur : c'est une censure silencieuse. Cette pratique jusqu'alors non régulée est adressée par une nouvelle réglementation qui va changer un certain nombre de choses pour les plateformes ainsi que pour les utilisateurs. 

Le Shadow Banning : une pratique jusqu'alors non régulée

Le shadow banning est utilisé par les plateformes numériques comme moyen de modérer le contenu sans recourir à des mesures de censures expresses, telles que la suppression de contenu ou la suspension de compte. Si les plateformes ont publiquement nié la pratique du shadow banning, elles ont toutefois reconnu que leurs algorithmes ont une incidence sur le choix des contenus à traiter en priorité. En 2018, Mark Zuckerberg disait que "les techniques de réduction de la visibilité aideraient les plateformes à gérer la désinformation sans devenir des "arbitres de la vérité": préférer une censure silencieuse à une censure publique (1). Cette pratique, bien que controversée, est restée largement non réglementée, laissant aux plateformes la discrétion de son application et peu de recours pour les utilisateurs affectés.

Exemple de shadow banning sur LinkedIn : un utilisateur qui envoie un trop grand nombre de messages à des personnes qui ne sont pas abonnées à son compte, qui tague trop de personnes dans ses postes, qui relaye beaucoup de fausses informations ou que l'algorithme soupçonne d'automatiser ses actions constatera sans doute une baisse du reach et de l'engagement de ses posts.

Le DSA : nouvel encadrement du shadow banning

Le règlement européen "Digital Services Act" (DSA) qui est entré en vigueur dès août 2023 pour les plus grosses plateformes et entrera en vigueur le 17 février 2024 pour les autres plateformes marque un tournant significatif dans la régulation des services numériques. Ce règlement introduit des obligations de transparence et de responsabilité pour les plateformes en ce qui concerne la modération du contenu. En ce qui concerne le shadow banning, les articles clés du DSA à considérer sont :

• Article 14 : cet article oblige les plateformes à exposer dans leurs conditions générales toutes leurs règles de modération (y compris algorithmiques) dans un langage clair et univoque. Cela veut dire que la pratique du shadow banning doit être rendue publique et expliquée aux utilisateurs.
• Article 17 : cet article impose aux plateformes de notifier les utilisateurs des actions de modération prises à leur encontre, en leur fournissant une explication notamment quant aux faits et circonstances sur base desquels la décision de modération a été prise, ainsi qu'indiquer à l'utilisateur comment il peut contester cette décision.

Ce que le DSA change pour les plateformes et les utilisateurs

Le DSA impose aux plateformes numériques une obligation de transparence et de justification de leurs pratiques de modération, y compris de shadow banning. Cela signifie que :

• Pour les plateformes : il convient de réviser les politiques de modération de contenu ainsi que les conditions générales pour s'assurer qu'elles sont conformes aux exigences du DSA. Cela inclut la mise en place de mécanismes clairs pour notifier les utilisateurs des actions de modération ainsi que pour traiter les éventuelles contestations.
• Pour les utilisateurs : il existe désormais un cadre légal pour comprendre et contester les décisions de modération qui sont prises à l'encontre des utilisateurs. Les éléments relatifs aux décisions de modération prises par les plateformes, ainsi que les moyens de les contester se trouveront dans les conditions générales des plateformes. 

Comment réagir au shadow banning en tant qu'utilisateur ou plateforme

• Utilisateurs : si vous suspectez être victime de shadow banning, consultez les conditions générales de la plateforme et demandez une explication en vertu de l'article 17 du DSA. Si la réponse est insatisfaisante, vous pouvez envisager de contester les éventuelles décisions qui ont été prises à votre encontre.
• Plateformes : mettez à jour vos conditions générales pour vous assurer de leur conformité avec le DSA (on y incluant notamment des éléments clairs et univoques sur vos méthodes de modération de contenu). Mettez en place des processus transparents et accessibles pour la notification et la contestation des décisions de modération et n'oubliez pas que chaque décision de modération doit être justifiable.

Conclusion

Le Digital Services Act représente un changement significatif dans la régulation des plateformes numériques, offrant un cadre légal pour contester la pratique du shadow banning. Tant pour les utilisateurs que pour les plateformes, il est crucial de comprendre ces nouvelles obligations légales et de s'adapter à un environnement numérique plus transparent et responsable.

(1) Mark Zuckerberg, 2018 à propos du Shadow Banning, The Recode Interview.

‍