Les politiques de modération du contenu sont toujours confrontées à des dilemmes fondamentaux

Dans son nouveau rapport, Justitia recommande que les principales plateformes en ligne signent un accord-cadre sur la liberté d’expression sous l'égide du Haut Commissariat des Nations Unies aux droits de l’Homme. [DilaraD/Shutterstock]

Un nouveau rapport du groupe de réflexion danois Justitia préconise l’intégration de la modération de contenu dans un cadre international des droits de l’Homme afin de garantir des normes internationales communes. Cependant, les critiques avertissent que cette approche volontariste est trop faible pour s’attaquer à l’« infodémie ».

Dans son rapport, Justitia affirme que les mesures législatives prises en Allemagne, au Danemark ou en Autriche pour lutter contre les discours haineux conduiraient à une « course à la réglementation » et entraîneraient un blocage excessif généralisé, c’est-à-dire que l’on assisterait à la suppression de contenus légitimes et non préjudiciables.

Au lieu de cela, les entreprises devraient baser leurs pratiques de modération de contenu sur le Pacte international relatif aux droits civils et politiques qui a établi un cadre pour les restrictions de la liberté d’expression en cas de discours haineux ou de désinformation.

« Si ces grandes plateformes acceptaient un engagement volontaire, où si elles adoptaient une norme de droits de l’Homme en matière de désinformation et de discours haineux, cela contribuerait dans une certaine mesure à créer une approche plus transparente et cohérente de la modération de contenu », a déclaré Jacob Mchangama, fondateur et directeur exécutif de Justitia, à EURACTIV.

Pour garantir la conformité, Justitia recommande dans le rapport que les principales plateformes signent un accord-cadre sur la liberté d’expression, le tout administré par le Haut Commissariat des Nations Unies aux droits de l’Homme (HCDH).

Une approche volontaire ou réglementaire ?

Cette approche de la modération des contenus basée sur les droits de l’Homme consisterait en un engagement volontaire des plateformes en ligne à lutter contre la désinformation et les discours haineux en ligne. Elle serait placée sous le contrôle du HCDH afin de garantir que la modération des contenus soit conforme aux normes internationales et non pas aux législations nationales.

L’UE s’est déjà positionnée comme un organisme de normalisation mondial par le passé. En effet, son code de bonnes pratiques contre la désinformation et son code de conduite pour la lutte contre les discours haineux illégaux en ligne ayant été repris par la plupart des grandes plateformes sur une base volontaire.

Toutefois, les divulgations récentes de Frances Haugen, ancienne employée de Facebook, ont révélé que les systèmes de modération du contenu des de grandes plateformes en ligne présentent encore des lacunes et que ces plateformes ne tiennent pas leurs promesses de lutter contre les contenus préjudiciables.

Serge Abiteboul, membre de l’ARCEP, une agence française indépendante chargée de la régulation des télécommunications, a affirmé lors d’un événement au Forum de Paris sur la paix de la semaine dernière que cette approche volontaire a largement échoué et que les pratiques des plateformes en ligne doivent être placées sous la stricte supervision des régulateurs.

La loi sur les services numériques (Digital Services Act, DSA), législation phare de l’Europe visant à lutter contre la diffusion de contenus illégaux et à responsabiliser les géants du numérique dans la sphère numérique, vise à combiner un régime de responsabilité stricte pour les plateformes en ligne avec des approches volontaires.

Selon la lanceuse d’alerte Frances Haugen, elle a le potentiel de devenir un « modèle pour le monde » en matière de modération de contenu. C’est ce qu’elle a déclaré aux législateurs européens début novembre.

Alors que la DSA proposée impose de lourdes amendes aux plateformes si elles ne prennent pas de mesures pour minimiser le risque de contenu préjudiciable, l’UE travaille également à l’intégration d’un guide de bonnes pratiques qui est actuellement examiné par la Commission européenne dans le cadre de la DSA.

En signant et en respectant le code de conduite volontaire, les plateformes en ligne sont assurées de respecter les normes élevées en matière de modération du contenu décrites dans le DSA, ce qui incite les entreprises à adopter et à mettre en œuvre le code de conduite en conséquence.

Facebook : la lanceuse d’alerte demande au Parlement européen de se montrer ferme avec le DSA

Frances Haugen, ancienne employée de Facebook, a appelé les législateurs de l’UE à « établir un étalon-or » et à adopter une position ferme en matière de réglementation devant le Parlement lundi 8 novembre.

Excès de zèle

Avec l’augmentation récente de la diffusion de la désinformation en ligne, les discours haineux ont rendu la modération de contenu encore plus pressant.

Une étude de l’UE a démontré que les discours haineux sont cinq à quinze fois plus fréquents sur les plateformes qui autorisent les contenus violents d’extrême droite, les Juifs et les non-Blancs étant les cibles les plus fréquentes des discours haineux en ligne.

Cependant, le rapport de Justitia indique que la suppression excessive de contenus pose également un problème. Selon l’étude, seulement 1,1 % des contenus supprimés en ligne enfreignaient réellement les dispositions du Code pénal danois relatives aux discours haineux.

La Commission Internet, une ONG qui promeut des pratiques commerciales éthiques pour contrer les discours de haine, affirme que la dynamique de l’industrie numérique nécessite une approche flexible.

« Les exigences strictes en matière d’application de la loi pour les opérateurs Internet, qui sont des mesures bien intentionnées pour freiner le contenu préjudiciable, peuvent faire fausse route, entraînant des signalements insuffisants et à un blocage excessif du contenu, ainsi qu’une incapacité à anticiper les nouveaux types de préjudices », a déclaré Patrick Grady, chef de projet à la Commission Internet, à EURACTIV.

« Pour changer efficacement les comportements, et pour assurer l’avenir de la réglementation, le point de départ réside dans l’élaboration de normes mondiales », a-t-il déclaré.

Subscribe to our newsletters

Subscribe