Le "capitalisme de surveillance" n’est pas une fatalité

Dès lors, d’après Shoshana Zuboff, le risque pour nos sociétés est le suivant : il devient possible d’inciter les individus à agir d’une certaine manière, à leur insu, et donc de les contrôler. Ainsi, McDonald’s et Starbucks signaient des contrats avec le jeu Pokemon Go dans l’objectif d’attirer les joueurs chez eux. Certains commentateurs (par exemple Evgeny Morozov dans une longue revue du livre) ont considéré l’analyse de Shoshana Zuboff inutilement dramatique et négative. Indépendamment de la validité de ses arguments, son livre met au premier plan l’un des enjeux à l’origine de nombreux débats sur les sujets technologiques : la technologie est un outil de contrôle invisible ; elle réduit la liberté des individus sans qu’ils ne s’en rendent nécessairement compte. 

Dans certains cas, il s’agit de situations de contrôle auxquelles nous sommes profondément et majoritairement opposés en Europe, comme lorsque le gouvernement chinois utilise des outils de reconnaissance faciale pour surveiller la population ouïghoure en Chine. Cependant, dans d’autres cas, il nous est plus difficile d’avoir un avis tranché et partagé. Par exemple, comme nous le montrons dans le dernier rapport de l’Institut Montaigne, Travailleurs des plateformes : liberté oui, protection aussi, les algorithmes des plateformes de travail à la demande incitent les utilisateurs à certains comportements : prendre un shift à une certaine heure, aller chercher un client dans une certaine zone de Paris, être poli afin de garder une note la plus élevée possible, etc. En théorie, personne ne donne d'ordres, mais la technologie et ses créateurs assurent un contrôle invisible et automatisé. La question que se pose le régulateur est la suivante : ce contrôle mérite-t-il que l’on requalifie les travailleurs en salariés ?

L’une des raisons pour lesquelles nous sommes mal à l’aise face à ces formes de contrôle est que les personnes utilisant la technologie (que ce soient les travailleurs des plateformes ou les utilisateurs Facebook) n’ont pas de visibilité sur les mécanismes qui la régissent (quels sont les critères utilisés pour le management algorithmique d’une part, et pour la recommandation de contenu d’autre part). En effet, la dimension invisible de la technologie est au coeur de l’idéologie de ses créateurs. Comme disait Mark Weisser dans son article de 1991 "The Computer for the 21st Century" : "Les technologies les plus puissantes sont celles qui disparaissent. Elles se fondent dans le tissu de la vie de tous les jours jusqu'à ce qu'on ne puisse même plus les en distinguer."

Dès lors, une première étape pour les politiques publiques est d’augmenter la visibilité que les individus ont sur les mécanismes qui régissent les technologies qu’ils utilisent. Dans le récent rapport de l’Institut Montaigne, Travailleurs des plateformes : liberté oui, protection aussi, nous recommandons que les plateformes de travail à la demande communiquent sur leurs conditions d’utilisation, les paramètres pris en compte par les algorithmes, ainsi que sur leurs effets (par exemple, les critères de notation et l’impact de ces notes sur les mises en relation avec les clients). Cette étape est indispensable afin d’assurer une régulation de la technologie, mais elle demeure toutefois insuffisante. Le changement est le fruit de négociations entre acteurs concernés, et c’est pourquoi nous recommandons également que les plateformes encouragent et facilitent le regroupement des travailleurs au sein d’associations pour permettre l’expression des doléances et intérêts collectifs.

Si la surveillance telle que la présente Shoshana Zuboff est une réalité, elle n’est pas inhérente aux outils technologiques. Le monde qu’elle décrit n’est donc pas une fatalité (elle le dit d’ailleurs elle-même). Si les pouvoir publics doivent jouer un rôle plus actif dans la régulation des plateformes numériques, comme le demande Mark Zuckerberg, il est indispensable qu’ils puissent avoir plus de visibilité sur les pratiques de celles-ci, afin de permettre aux individus d’avoir accès aux informations qui les concernent. C’est une première étape indispensable pour appréhender la structure du "capitalisme de surveillance".