Digital Services Act : modérer les contenus et protéger les mineurs

Les codes de pratiques volontaires sont insuffisants

Mais faut-il ne rien faire pour autant ? Dans le but de lutter contre les discours de haine, la Commission européenne a mis en place un code de conduite élaboré avec Facebook, Microsoft, Twitter et Youtube, et que des acteurs comme Instagram, Dailymotion ou Snapchat ont ratifié. En adhérant à ce code de conduite, ces plateformes s’engagent à examiner sous 24 heures les demandes de suppression de contenu. Une initiative similaire a été entreprise contre la désinformation en ligne. Si cette méthode basée sur le volontariat est louable, elle s’avère aujourd’hui insuffisante, comme l’a remarqué la Commission européenne dans un communiqué datant du 10 septembre 2020 relatif à l'évaluation du code de bonnes pratiques sur la désinformation. Parmi les enjeux soulevés se trouve le manque de définitions communes aux pays membres. Surtout, les pouvoirs publics ont aujourd’hui trop peu de moyens pour évaluer l’étendue et l’efficacité des mesures prises par les plateformes pour modérer les contenus.

Ajoutons à ces questions relatives aux contenus l’enjeu du contrôle de l’âge sur Internet, indispensable pour effectivement protéger les mineurs en ligne. Sur ce point, le droit anglais avait mandaté en 2017 le gouvernement britannique de mettre en place un système de vérification d’âge sur Internet, qui a dû être abandonné en 2019, sous le feu de la critique pour atteinte au respect des libertés sur Internet. Une initiative similaire est envisagée en France sous la forme d’un article à l’intérieur de la loi visant à protéger les victimes de violences conjugales, dont les débouchés sont encore attendus.

Que proposez-vous pour aller dans le sens d’une plus grande responsabilité ?

Tout d'abord, l'Institut Montaigne formule deux propositions spécifiques à la protection des mineurs dans son rapport Internet : le péril jeune ?. Afin d’assurer un encadrement efficace des usages d’Internet par les mineurs, il doit être rendu possible de vérifier leur âge. L’Institut Montaigne propose donc d’étudier la faisabilité d’un dispositif de vérification de l’âge à l’achat, proposé au parent mais facultatif, entraînant un paramétrage non modifiable du système d’exploitation du smartphone, de la tablette ou de l’ordinateur. Ensuite, l’Institut Montaigne propose de préparer un corpus de règles sur la protection de la jeunesse utilisant des intermédiaires numériques. Ces règles pourraient inclure de rendre leurs profils en ligne privés par défaut, afin qu’ils ne puissent pas être visibles sur les moteurs de recherche, ou de leur limiter strictement l’accès aux contenus destinés aux majeurs. Parallèlement, les sanctions appliquées dans le cadre du RGPD pourront être renforcées en ce qui concerne la protection et l’utilisation des données personnelles de personnes mineures.

Pour cela, il est indispensable d’évaluer de manière suivie, fiable et indépendante les actions des plateformes vis-à-vis des contenus, et de mesurer les conséquences de celles-ci. Le but de cette investigation ne doit pas être de trouver les cas individuels de contenus que les plateformes auraient mal modéré (une désinformation ou un contenu haineux), mais de mettre à jour les erreurs systémiques éventuelles des plateformes dans leurs efforts de modération des contenus.

Ce système pourrait être fondé sur le principe des stress tests, utilisés notamment dans le secteur financier. Appliqué aux plateformes digitales, les acteurs numériques pourraient être contraints à se soumettre annuellement à un audit indépendant de leurs actions. Parmi les éléments que les auditeurs seraient en droit de demander se trouveraient les objectifs fixés en termes de modération de contenus, les moyens humains et technologiques déployés pour y arriver (y compris les procédures de vérification de qualité des données d'entraînement des systèmes de détection de contenus), les difficultés rencontrées, la manière dont ces difficultés ont été contournées, etc. Les objectifs fixés pourraient être ainsi modifiés en fonction de la marge de progression des plateformes. Des sanctions seraient envisagées si ces audits ne révèlent pas de résultats satisfaisants en ce qui concerne la minimisation des risques pour les utilisateurs.

Certaines de ces informations pourraient être rendues publiques afin que des acteurs tels que les associations de défense des libertés puissent juger de l’adéquation des définitions et des procédures. Il est également important que l’ensemble de la population puisse prendre conscience des enjeux. À cet égard, nous recommandons la publication obligatoire (elle existe aujourd’hui sur la base du volontariat) de "baromètres" annuels par les entreprises, visant à partager au grand public des informations sur des campagnes de harcèlement ou de désinformation qui auraient eu lieu.

Les audits menés par des acteurs indépendants ont démontré leur efficacité vis-à-vis des entreprises et du monde financier. L'utilisation d'auditeurs intermédiaires permet d'éviter à l'État de développer une expertise dont il ne dispose pas et de faire porter le coût de ces audits au contribuable. De surcroît, elle permet de définir de manière graduelle les obligations en termes de moyens et non de résultats, ce qui serait probablement plus difficile si l'État devenait l'interface principale de ces entreprises.

Copyright : Loic VENANCE / AFP