Twitter vs. Trump : comment avancer ?

À quoi ressemblerait un processus "légitime et démocratique" de modération ?

La question demeure de savoir ce à quoi peut ressembler un processus "légitime et démocratique" de contrôle de l’espace informationnel en ligne. L’une des solutions régulièrement évoquées, et qui figure au cœur de la loi de 2018 contre la manipulation de l’information dite "loi fake news", est de laisser à un juge des référés (juge administratif de l’urgence, qui statue seul) la décision de la suppression ou non d’un contenu. Si cela donne une couleur démocratique à la modération en ligne, cette idée reste problématique pour plusieurs raisons.

D’abord, ce mécanisme ne peut pas traiter les problèmes avant que le mal soit fait. La viralité des posts rend difficile, voire impossible, d’identifier et de supprimer les contenus problématiques suffisamment rapidement pour limiter les dommages qu’ils peuvent causer. La procédure légale n’est pas inutile pour autant : elle permet de responsabiliser les acteurs (plateformes comme individus) ; mais, même si, dans un cas aussi important que celui de la suppression du compte d’un président, la procédure peut être rapide, dans la majorité des cas elle arrivera nécessairement trop tard.

Ensuite, la procédure judiciaire met fortement l’accent sur les contenus individuels, lorsque la quantité de messages potentiellement problématiques nécessite d’élargir l’échelle. Pour cela, il est nécessaire de comprendre comment ce type de problème peut être abordé par une plateforme avec un nombre d’utilisateurs aussi important que celui de Twitter ou Facebook. Du point de vue de l’ingénieur, l’enjeu est de trouver des catégories de cas problématiques suffisamment larges pour prendre en compte le plus grand nombre de situations (par exemple, incitation à la haine, incitation à la violence, contenu politique mensonger, etc.), et précises et permettre de traiter des exceptions (par exemple, des lycéens appelant à la révolte contre un professeur sur un ton humoristique). Les exceptions sont inévitables, mais elles doivent faire l’objet de discussions. Dans certains cas, de nouveaux critères doivent être pris en compte (par exemple, le nombre d’abonnés ou le métier de l’acteur concerné).

Creuser du côté des catégories de contenus

Si les pouvoirs publics souhaitent trouver des solutions efficaces, c’est-à-dire des solutions qui permettent d’identifier et de traiter rapidement les situations problématiques, ils doivent creuser du côté de ces catégorisations. Quelles sont les catégories existantes ? Quels critères leur correspondent ? Comment ces critères sont-ils amenés à évoluer ? Quelles décisions sont prises pour chaque catégorie ? Lorsque des contenus cumulent plusieurs critères, comment sont-ils traités ? C’est au sujet de ces critères que nous devons avoir des discussions ouvertes et des processus de décision démocratiques.

La question qu’il convient de se poser est la suivante : si la méthode d’interprétation des messages du président, ainsi que les critères et les catégories invoquées pour prendre la décision, étaient approuvées par des institutions démocratiques, la décision de supprimer le compte pourrait-elle être considérée comme légitime ? À l’Institut Montaigne, nous sommes convaincus que c’est dans cette voie qu’il faut s’engager pour sortir de la situation intenable devant laquelle nous nous trouvons. C’est-à-dire une situation où chaque décision est critiquée par les mêmes acteurs pour des raisons opposées, balançant entre défense de la liberté d’expression et protection de l’ordre public.

Un mécanisme d’audit pour aboutir à des décisions légitimes

Définir de façon démocratique les catégories de contenus qui posent problème est un processus laborieux et perpétuel. C’est pourquoi, dans le rapport Internet : le péril jeune ?, nous soulignons la nécessité de développer la capacité d’audit des opérateurs de réseaux sociaux. Comme nous l’avons détaillé, la transparence de ces acteurs quant aux décisions prises est une condition sine qua non du traitement des contenus problématiques. Cependant, la transparence dépend autant de la confiance des plateformes dans les pouvoirs publics que de la confiance des pouvoirs publics dans les plateformes. Cette confiance peut être renforcée par des mécanismes de vérification.

Du côté des pouvoirs publics, croire en la seule bonne foi des plateformes serait vain. Mais demander légalement l’accès à des informations tout en développant une capacité de vérification de ces informations (comme c’est le cas dans le secteur financier) accroîtra la confiance dans la procédure. Du côté des plateformes, le risque de dévoiler les rouages de la modération, la multiplicité de cas conflictuels et les mécanismes souvent imparfaits de prises de décision est majeur. Pourtant, ce n’est qu’en comprenant finement et collectivement la complexité de ces rouages que nous pourrons avancer. Les pouvoirs publics doivent dans un premier temps encourager la transparence en ne sanctionnant que les entraves systématiques et répétées de règles déjà établies (par exemple concernant la circulation de contenus pédopornographiques ou terroristes).

Ce mécanisme d’audit doit être évolutif afin de prendre en compte l’émergence de nouvelles situations problématiques. Il doit aboutir à un environnement dans lequel les pouvoirs publics et les plateformes échangent des informations sur les méthodes d’identification et de suppression de contenus. Il doit amener à une compréhension fine de la complexité de la situation dans laquelle nous sommes collectivement.

Copyright : Olivier DOULIERY / AFP