Les défis de la modération des contenus : définir "contenus problématiques"

Il est important que nous comprenions la nature des contenus sensibles et potentiellement nuisibles (par exemple, l’information sur les vaccinations, l'intégrité des processus électoraux, les discours haineux, les insultes et le harcèlement) que les gens "voient" passer sur les fils d’actualité de leurs réseaux sociaux. Il convient d’organiser des discussions mobilisant l’ensemble de la société sur les types de contenus que nous considérons comme nuisibles ; il nous faut décider des règles que les plateformes devraient appliquer face à ces contenus.

Je suis beaucoup plus séduite par l’idée que les gouvernements obligent les entreprises à réaliser des audits indépendants - plutôt qu’une approche qui consisterait à leur demander de rédiger leurs propres rapports de transparence. Il nous faut recueillir beaucoup plus de données avant d'élaborer une réglementation sérieuse de la modération des contenus.

Aux États-Unis, les annonces faites par Mark Zuckerberg pour en appeler à une plus grande réglementation des contenus nuisibles en ligne ont parfois été accueillies avec scepticisme, notamment en raison de l'attachement du pays à la liberté d'expression, définie au sens large. Pensez-vous que les approches réglementaires développées en France et plus généralement en Europe pourraient néanmoins inspirer les Etats-Unis ?

Les débats sur la réglementation de la modération des contenus se sont récemment multipliés aux États-Unis. La position européenne est plus dure que de l’autre côté de l’Atlantique, en partie parce que l’histoire récente de l’Europe lui permet de comprendre davantage la gravité des conséquences potentielles du discours haineux. Les États-Unis sont plus tolérants à l'égard de certains types de discours, dont celui-ci, ce qui explique que les débats sur la modération des contenus y soient moins courants. Cela dit, les États-Unis suivent de près ce qui se passe en Europe, et le règlement général sur la protection des données (RGPD) n’a pas manqué de susciter d'importantes discussions sur les mécanismes à déployer pour protéger les données personnelles. Toutefois, je suis prête à parier que toute réglementation américaine relative aux plateformes se concentrera sur des mesures antitrust plutôt que sur la modération des contenus.

First Draft News déploie ses activités dans de nombreuses régions du monde, dont au Brésil, en Indonésie et au Nigeria. Selon vous, quelles initiatives ont été les plus marquantes à travers le monde jusqu'à présent ?

Nous avons pu assister à un surgissement d'initiatives réglementaires à travers la planète, du Brésil à l'Australie, en passant par la Russie. Un projet de loi est en cours à Singapour. Toutes ces initiatives ont été faites à la va-vite et chacune peut être controversée à sa façon. L'accent est mis sur la modération des contenus et, trop souvent, c’est l'utilisateur qui porte le fardeau en cas de partage d'informations erronées. Toutes ces initiatives se fondent sur des définitions insatisfaisantes de ce qui est problématique ou nuisible. L'absence de réflexion collective est également inquiétante. Les entreprises de réseaux sociaux concernées agissent à l’échelle mondiale ; les réponses nationales sont donc insuffisantes, voire problématiques. Une démarche multinationale, rassemblant des représentants de pays divers qui dialogueraient à la fois avec des experts et des plateformes, serait une voie bien plus intéressante pour recueillir des retours d’expérience et formuler des solutions plus larges à ces enjeux.