Nobel d’économie : progrès, pouvoir et démocratie face à l’intelligence artificielle

Que l’on remonte aux visions tout à la fois horribles et pathétiques qui peuplaient le Frankenstein de Mary Shelley, au début du XIXe siècle, ou que l’on s’arrête aux débats actuels sur l'intelligence artificielle (IA) et ChatGPT, on constate que les hommes entretiennent une relation épineuse et contrariée à la technologie, faite de crainte et nourrie de la croyance que l'évolution technologique ne peut être entravée, parce qu’elle conduit d’elle-même à des gains de productivité bientôt suivis par un progrès généralisé.

Or, une telle approche néglige la possibilité que préférences politiques, rapports de force et répartition du pouvoir au sein de la société influent de façon déterminante sur l'orientation du développement technologique. Plus important encore, elle n’envisage pas le lien entre technologie et bien commun et ne mène aucun débat sur les conséquences négatives de certains choix.
 
Daron Acemoğlu et Simon Johnson, professeurs au Massachusetts Institute of Technology (MIT), l'une des plus grandes universités du monde et lauréats du prix Nobel d’économie en 2024, remettent en question cette approche mécaniste du développement technologique dans l'ouvrage qu'ils ont cosigné, Power and Progress : Our Thousand-Year Struggle Over Technology and Prosperity. Ils mettent le lecteur en garde contre ce qu'ils appellent le "piège du récit". Selon eux, "dès lors qu’un récit devient dominant, il est difficile de se déprendre de ses postulats car on a tendance à tenir ses enseignements pour véridiques". Ce risque, toujours présent aujourd'hui, résulte de notre incapacité à remettre en question le discours des géants de la technologie afin d’envisager des voies autres pour le développement technologique et ses applications.

C'est pourquoi les auteurs affirment qu'il n'est pas possible de comprendre le "progrès", qui inclut le développement technologique, ni la question de la répartition des richesses, sans prendre en compte la dimension du pouvoir. Leur thèse, qu'ils étayent par des exemples historiques, est que la contribution de la technologie au bien commun n'a été rendue possible que grâce aux luttes sociales : elle n’a pas été spontanée.

Acemoğlu et Johnson analysent certaines des questions, cruciales pour notre époque, qui ont trait à la technologie et à son utilisation : avenir de la mondialisation, inégalités de revenus, larges pouvoirs de surveillance et de contrôle que l'IA donne aux États, capacité des grandes entreprises technologiques à abuser du pouvoir qu'elles détiennent en collectant gratuitement des données et en enrichissant un nombre limité d'individus. Une telle utilisation de la technologie a pour effet d'affaiblir les démocraties favorisant les inégalités de revenus et en réduisant les opportunités d'emploi.

À rebours de certains adeptes de la pensée techno-optimiste du "productivity bandwagon", (ou “effet d'entraînement de la productivité”), qui associent automatiquement la technologie à la productivité et au développement, les auteurs présentent une histoire technologique et économique complète des 1000 dernières années. Selon eux, la question clef est d’établir si, oui ou non, la technologie contribue au bien commun. Ils concluent que les grands progrès technologiques réalisés au cours d'une période donnée ne contribuent pas nécessairement à l'augmentation du bien commun.

Bien que sous-estimée, la conjoncture internationale joue également, au côté de l’organisation politique, un rôle essentiel pour favoriser le partage de la prospérité. L’existence de l’Union soviétique et le contexte de la guerre froide ont été des leviers importants dans la période d'une trentaine d'années qui suivit la Seconde Guerre mondiale et où la répartition des revenus a été la plus équitable de l'histoire mondiale.

En effet, la période des “Trente Glorieuses", qui s’étend entre 1945 et 1975, a permis des gains de productivité importants ainsi qu'une augmentation des opportunités d'emploi. Dans le même temps, la classe ouvrière a pu bénéficier d’une part allant jusqu'à 70 % de la valeur produite. C’est l'existence d'un système économique alternatif et les équilibres établis grâce à l'organisation des travailleurs dans les pays développés qui ont conduit à un tel résultat. Selon les auteurs, deux évolutions, dont les fondements ont été posés au début du XXe siècle, ont défini la structure de l'après-guerre : d'une part, "la direction prise par les nouvelles technologies, qui ont généré non seulement des économies grâce à l'automatisation, mais aussi une multitude de nouvelles tâches, de nouveaux produits et de nouvelles opportunités ; d'autre part, une structure institutionnelle qui a renforcé les contre-pouvoirs des travailleurs et de la réglementation gouvernementale".

Le paradigme de cette période de "prospérité partagée" a perdu de son aura dans les années 1970 après le quadruplement des prix du pétrole dû à la guerre israélo-arabe de 1973. Le nouveau modèle n'était pas du tout favorable à l'approche égalitaire de la distribution.

À la fin des années 1970, la thèse selon laquelle les entreprises n’avaient pour tâche que de maximiser leurs profits et de protéger la richesse des actionnaires s'est largement imposée. Dans ce nouveau contexte, puisque la maximisation des profits passait par la réduction des coûts de main-d'œuvre, les technologies numériques ont évolué afin de faciliter l'automatisation et l'élimination de la main-d'œuvre non qualifiée.

Les différentes voies de développement, qui avaient commencé à germer au début des années 1970 sous l’impulsion originale de techno-hackers, ont été abandonnées. Pour Acemoğlu et Johnson, ce n'est pas l'automatisation elle-même qui doit être considérée comme problématique, mais l’éventail technologique que l’on a choisi de développer pour privilégier l'automatisation au lieu de créer de nouvelles méthodes de travail pour les travailleurs. Ce choix, combiné à la mondialisation et à l'ascension de la Chine, explique en partie l'inégalité des revenus dans la période qui a suivi, ainsi que la désintégration sociale consécutive à la délocalisation de certaines industries.

Les auteurs font une critique très sévère de ce qu'ils décrivent comme "la mère de tous les errements technologiques" :"l’IA est désormais un acquis et s’est ancrée dans les esprits, ce d’autant plus qu'elle enrichit et renforce les élites qui orientent la technologie vers l'automatisation et la surveillance...".

Or, cela, L'IA n'en est pas capable : elle favorise seulement l'adoption d'une approche rigide de l'automatisation, qui ignore ou minimise la flexibilité et la créativité dont les humains savent faire preuve, en particulier dans les secteurs des services et même dans les chaînes de production industrielle, aussi routinières les tâches soient-elles. Alberto Romero, qui a travaillé dans ce domaine pendant de nombreuses années, est cité par les auteurs : "Le marketing autour de l'IA est tel que de nombreuses entreprises l'utilisent sans savoir pourquoi. Tout le monde voudrait prendre le train de l'IA".

Outre une préférence aveugle pour l'automatisation, l'IA contribue également à instaurer un régime de surveillance permanente. Cette tendance, qui a d’abord touché les lieux de travail des ouvriers, s'étend progressivement aux employés.

Arguant que cette voie n'était pas pré-écrite, les auteurs écrivent que "l'approche actuelle qui domine la troisième vague de l'IA, basée sur la collecte massive de données et l'automatisation incessante, est un choix. Un choix coûteux, non seulement parce qu'il suit le parti pris des élites en faveur de l'automatisation et de la surveillance, mais aussi parce qu'il porte atteinte aux moyens de subsistance des travailleurs. Il détourne également l'énergie et la recherche d'autres orientations socialement plus bénéfiques pour les technologies numériques d'usage général."

Troisièmement, les nouvelles technologies et les machines qui les utilisent peuvent être conçues pour être plus utiles en rendant l'information précise plus accessible, afin d'améliorer la prise de décision. Quatrièmement, si les nouvelles technologies peuvent être utilisées pour faciliter la rencontre de personnes ayant des compétences et des savoir-faire différents, elles augmenteront également le dynamisme économique. Toutefois, estimant que les entreprises ne voudront pas investir d'argent dans une telle direction, les auteurs concluent sur une note pessimiste : "les machines à complémentarité humaine ne sont pas très attrayantes pour des organisations obnubilées par un objectif de réduction des coûts".

L'utilisation des technologies numériques et de l'IA n’a jusqu’à maintenant eu pour effet que de remplacer les travailleurs ou de faire baisser les salaires de la main d'œuvre faiblement qualifiée ou chez les ouvriers. Les récentes ​​échauffourées autour de l'IA s'expliquent par la crainte que les emplois qualifiés ne soient les prochains sur la liste des espèces menacées. C'est la première fois que l’emploi de personnes ayant un niveau d'éducation élevé - avocats, journalistes, enseignants/universitaires et autres -, qui avaient jusqu'à présent bénéficié des technologies numériques, sont aussi gravement menacés. Comme ils disposent d’une meilleure capacité à s'exprimer et à se mobiliser, ils pourraient entraver l’évolution du développement technologique dans le seul sens d'une automatisation continue et accrue.

L'un des chapitres les plus pessimistes du livre s'intitule "Faillite démocratique". Après avoir rappelé qu'Internet et, plus tard les médias sociaux avaient autrefois participé à renforcer les mouvements démocratiques et à faciliter la résistance des sociétés aux régimes corrompus, les auteurs résument la situation actuelle comme suit : "dès lors que les outils [numériques] ont commencé à être utilisés principalement pour la collecte et le traitement massifs de données, ils sont devenus des outils puissants entre les mains des gouvernements et des entreprises désireuses de surveiller et de manipuler les populations. Au fur et à mesure que celles-ci perdaient du pouvoir, le contrôle s'est intensifié aussi bien dans les pays autocratiques que démocratiques, et de nouveaux modèles commerciaux fondés sur la monétisation et la maximisation de l'engagement des utilisateurs, souvent mobilisés grâce à des contenus polémiques ou clivants, ont prospéré."

La technologie numérique n'est ni démocratique ni antidémocratique en soi. Ce sont les décisions et les choix relatifs à son utilisation qui la font telle. En se concentrant sur la collecte de données personnelles et les revenus qu'elles en tirent, les entreprises technologiques ont favorisé l'autoritarisme. "Les premiers espoirs associés à la démocratisation numérique ont été anéantis parce que le monde de la technologie a mis tous ses efforts au service du pouvoir et de l’argent, c'est-à-dire au service de la censure gouvernementale."

Après toutes ces critiques, les auteurs concluent par quelques suggestions qui, selon eux, permettront de ralentir voire d'inverser la tendance dans la période à venir. Leur optimisme quant à la possibilité d'une nouvelle voie pour la technologie de l'IA s'inspire des luttes politiques courageuses et des succès du mouvement progressiste du début du 20e siècle, alors que l’on considérait les efforts de la société civile, dans un pays comme les États-Unis, comme voués de façon presque certaine à l’échec. Au début de leur dernier chapitre, "Redirecting Technology" (Réorienter la technologie), les auteurs citent avec admiration Louis Brandeis, alors avocat (il deviendra plus tard juge) : "Dans le monde, la plupart des choses qui valent la peine d'être réalisées ont d’abord été considérées comme impossibles, avant d'être faites."

Un environnement politique démocratique et un espace de débat qui ne soit empoisonné ni par des géants de la haute technologie exclusivement intéressés par leur profit ni par les médias sociaux qu'ils contrôlent sont les conditions préalables à toute avancée en ce sens.

Copyright image : Christine Olsson / TT / TT NEWS AGENCY / AFP
Jan Teorell, membre du comité Nobel, après l'annonce de la remise du prix suédois à Daron Acemoglu et à Simon Johnson, le 14 octobre