Quis custodiet ipsos custodes?

Suspendre l'activité et la publicité sur Facebook jusqu'à ce que le géant du web s'engage à censurer activement les discours, publications et commentaires « haineux » qui polluent les réseaux sociaux – voilà la position de plusieurs grandes entreprises, d'abord américaines, puis à l'échelle internationale, pour faire pression économique à l'endroit du réseau social et tenter de le convaincre de s'engager à une plus grande et plus active modération du contenu qui s'y publie. Hier, on apprenait que le gouvernement du Québec emboîtait le pas dans cette mouvance.

Si on peut saluer la manœuvre dans une perspective de justice et d'éthique, elle comporte cependant, toute vertueuse soit-elle, un certain potentiel d'inquiétant qu'il serait inadéquat d'ignorer. Car comprenons-le bien, derrière l'idée de lutter contre la diffusion de discours haineux, nous sommes en train de contempler celle de remettre un pouvoir d'arbitrage et de censure en cette matière – y compris celui de définir ses propres pouvoirs et ce que constitue un discours qui doit être censuré - à une corporation internationale, hors d'atteinte du droit national et de toute redevabilité démocratique de ses décisions.

L'idée est noble, mais au niveau de sa matérialisation concrète, il conviendrait peut-être de soumettre le projet sinon au débat, à tout le moins à l'intérêt public. S'il est bien un écueil à éviter dans la recherche du bien commun, c'est celui de proclamer un objectif vertueux sans adresser la question des moyens et pouvoirs requis pour l'atteindre ni la nature des règles de fonctionnement qui le régiront.

Qui déterminera, et selon quels critères, ce que constitue un discours « haineux » au juste ?

Si certains (sans doutes la plupart) des commentaires haineux sur les réseaux sociaux sont facilement identifiables pour ce qu'ils sont (dans toute leur laideur...), comment départagera-t-on les cas limites, les zones grises ? Par exemple; la critique, même acerbe, même virulente, d'une -idée-, comme une opinion politique ou une croyance religieuse peut-elle en soi être « haineuse » ? Nier la validité théorique ou l'existence empirique du racisme systémique au Québec, par exemple, constitue-t-il une manifestation de « haine » qui doit être réprimée ? Si cela dépend de sa formulation, selon quels paramètres trancher ?

Une personne estimant avoir été injustement censurée et cherchant à défendre la légitimité de ses propos disposera-t-elle d'un processus d'audition de sa « cause » par un évaluateur impartial qui lui donnera l'occasion de présenter ses arguments et moyens de défense -- ou s'agira-t-il d'une décision de style administratif (sans motifs?) prononcée par un décideur privé appartenant à une corporation internationale ? Des interactions transparentes sont-elles possibles dans le processus décisionnel, ou bien tout se passera-t-il dans un climat d'obscurité qui pourrait rappeler le Procès de Kafka ?

Quels sont les risques et les méthodes d'encadrement contre toute potentielle partialité (individuelle, institutionnelle) qui pourrait s'infiltrer dans le processus ? Cette question emporte des réflexions nécessaires, lorsqu'on considère que les grands géants du web (dont Facebook) se sont plusieurs fois ouvertement affichés comme politiquement non-neutres à l'endroit d'enjeux sociaux. Quelles garanties pourrait-on espérer obtenir qu'un régime de lutte et censure des discours haineux ne se transformera pas, même lentement, même progressivement, en filtrage d'expression d'idées et de positions politiques – qu'éventuellement, nous n'en n'arriveront pas à institutionnaliser (sans redevabilité qui plus est) l'équation « désaccord politique = haine = censure »? L'histoire regorge, on ne peut l'ignorer, d'exemples de dérives de la sorte...

Quels moyens envisagera-t-on de mettre en place (s'il y en a), pour éviter que ce pouvoir ne soit détourné par et ne se transforme en outil de ce qu'il convient d'appeler la « cancel culture », le « déplaterformage » ?

Comment et jusqu'à quel degré le traitement des retraits de commentaires identifiés comme « haineux » dépendra-t-il d'algorithmes ou d'un triage fait par intelligence artificielle ? N'oublions pas : Facebook a déjà automatiquement censuré des textes historiques et des œuvres d'art au travers de son processus de tri par intelligence artificielle. Filtrera-t-on par recherche de mots ? Comment interprètera-t-on l'ironie ou le sarcasme ? Et puisqu'on parle d'intelligence artificielle et de « big data », les systèmes de surveillance feront-ils de la « surveillance par association » (i.e.: si un « ami » publie quelque chose d'« haineux », ses contacts seront-ils placés sur une liste de surveillance accrue)?

Des sanctions additionnelles à la censure, comme le bannissement ou la suppression de compte, seront-elles au menu ?

La liste de questions pourrait se poursuivre longtemps et, rationnellement, elles méritent réflexion.

Bien sûr, et on le répétera encore, la lutte contre les discours haineux en ligne est un objectif tout aussi légitime que louable - mais l'histoire nous rappelle que, hélas, sont bien présents les risques de dérives dans la poursuite d'objectifs vertueux. Et ce serait desservir cette fin légitime que d'en chercher la réalisation sans s'attarder à son « comment ».

Quis custodiet ipsos custodes? Qui surveille les gardiens?

En 2020, dans le contexte social particulièrement chargé qui est le nôtre, cette question mérite plus que jamais de ne pas être perdue de vue.

- François Côté, Avocat

Lien vers la déclaration du Premier Ministre François Legault:  https://www.facebook.com/FrancoisLegaultPremierMinistre/posts/3214374715286203

Image: Wikimedia commons - https://de.wikipedia.org/wiki/Datei:Scissor-for-paper.jpg