Hauts risques et forts impacts : réguler l'IA

Le concept a été distordu en tous sens par les médias, les experts ou les entreprises d’IA qui ont intérêt à estampiller leurs produits sous la bannière "d’IA générative" alors même que le type de modèle qu’ils développent sont très éloignés des modèles d’IA type chatGPT.. Il convient en réalité de distinguer trois types d’IA sous ce concept d’IA générative :

• L'IA à usage général de pointe, modèles à la frontières, telle que GPT 4. Il s'agit de modèles construits pour être les plus généraux possibles, qui cherchent à repousser les limites des capacités et compétences actuelles. Ils permettent énormément de fonctionnalités, du conseil financier à la santé mentale en passant par le secteur scolaire ou l'apprentissage d’une langue étrangère. Pour ces modèles, nulle autre limite d’usage que celle de l'imagination de l'usager… C'est là que se situent les risques principaux. 
• Les modèles d’IA à usage général "classique", qui ne sont pas de pointe. Ces modèles ne repoussent pas les capacités de l'IA. Ils servent de modèles de base et, par leurs fonctionnalités plus restreintes, il est plus facile aux industriels et aux services publics de les rendre fiables. On les retrouve par exemple dans les modèles utilisés pour la traduction. 
• L'IA générative : ce sont des IA capables de générer texte, images, vidéos, sons à partir de leurs données d'entraînement. 

Oui, ces modèles sont bien des ruptures majeures, à plusieurs égards. 

• C’est d’abord une rupture technologique : si les "Large Language Model" (LLM, ou "Grand modèle de langage", réseaux artificiels de neurones profonds) existent depuis longtemps, la rupture est survenue avec l’immense capacité de calcul acquise par les derniers progrès technologiques. 
• C’est aussi une rupture commerciale : l'IA a décollé il y a trois ou quatre ans. Alors que GPT2 n’était connu que par le public restreint des chercheurs, GPT4 représente un phénomène historique qui a été rendu possible par une intense concentration capitalistique sans laquelle les investissements colossaux requis pour développer ces modèles très spécifiques, qui coûtent à développer environ un millier de fois plus que les précédents, n'auraient pu être créés. 
• Londres veut concentrer ses efforts sur les "risques extrêmes" : quels sont-ils ou, plus largement, quel est l’enjeu de cette conférence de Londres ? 

Il faut prendre en compte plusieurs facteurs sous-jacents : les risques associés à la diffusion des modèles auprès de tous les publics (non-experts ou mal intentionnés) et les risques inhérents à ces modèles en eux-mêmes (quel que soit l’usage, quel que soit l’usager). 

Le rapport de The Future Society, consacré à ces risques IA, renvoie à une suggestive citation de Shakespeare : "Heavy Is The Head That Wears The Crown" :  la contrepartie de la puissance est un risque élevé pour celui qui en dispose…

Un autre risque est externe : c'est celui de l’utilisation de ces modèles très puissants par des acteurs mal intentionnés, capables par exemple de changer le résultat des élections sans même avoir besoin d’usine à trolls, à partir de modèles disponibles en open-source. On se retrouve à espérer de la bonne volonté du monde en général qu’il n’utilise pas ces modèles à fin malveillante… Espoir bien vague en vérité ! D’autant plus si l’on songe que, des États-Unis à l’Union Européenne, 2024 est une année électorale intense… 

Ce risque externe ne se cantonne pas à des acteurs malveillants. Il réside aussi dans l'usage accidentel ou inconscient d’un utilisateur mal avisé. Les risques de dépendance affective, par exemple, sont très loin d’être anecdotiques. On étudie sérieusement la possibilité d’une épidémie d’addiction affective en santé mentale, chez des individus qui développeraient une relation forte avec leur modèle d'IA. Nulle science-fiction, nul scénario de Luc Besson : l'enjeu est tout à fait sérieux. Il faut comprendre que ces modèles d'IA sont extrêmement convaincants et que nous sommes des animaux sociaux, intrinsèquement susceptibles de nous laisser piéger par notre tendance anthropomorphique. 

Il existe environ cent cinquante millions d'utilisateurs de ChatGPT, dont une grande partie est constituée d'entreprises qui dépendent de leur chaîne d’approvisionnement digital. Il faut que ces modèles soient très robustes car le risque qu’ils font courir à l’économie est énorme. 

Dans un registre social, enfin, le risque de remplacement soudain et à grande échelle du travail humain mérite aussi d'être pris très au sérieux. 

En réalité, il n'y a pas à choisir. Il serait naïf de considérer la régulation comme une limite nuisible au potentiel d’innovation. On a au contraire besoin de régulation pour assurer la confiance des investisseurs et clients à long terme, qu’ils soient des industriels ou des consommateurs de l’IA. Plus les modèles sont sûrs, plus les usagers sont prêts à payer pour les utiliser. L’investissement dans la qualité, même s'il conduit à un renchérissement des produits, est fortement incitatif pour l’usager. 

Il faut donc que les pouvoirs publics mettent en œuvre des mesures en faveur de la précision, fiabilité et transparence des instruments IA afin de forcer les entreprises à investir dans la qualité des produits plutôt que dans la performance du marketing ou du lobbying. La régulation a un rôle crucial à jouer, y compris en matière de performance technique. 

Les États commencent à saisir l’importance de la rupture que constitue l'IA.

Malheureusement, les entreprises américaines de la Silicon Valley n'ont pas les mêmes intérêts. A la différence des industriels non digitaux, qui désirent une régulation de contrôle-qualité sur les développeurs comme Microsoft ou Google, ces développeurs, au contraire, promeuvent une régulation en aval, sur leurs utilisateurs qui se retrouveraient légalement et contractuellement responsables tandis qu'eux, les développeurs, n'auraient aucun compte à rendre. Microsoft et Google sont malheureusement beaucoup plus audibles que les industriels usagers car, pour ces derniers, l'IA ne représente qu’un intérêt stratégique parmi d’autres tandis que la Big Tech mobilise toutes ses ressources, qui sont énormes, sur le sujet. Il faut que les États et les industriels verticaux s’emparent de la question et intègrent l'idée que l'industrie digitale n’est pas du tout alignée sur les mêmes intérêts que les siens.

En Europe, l'entreprise allemande Aleph ou les Français Mistral AI sont les seuls qui s’élèvent contre une régulation de l’IA générale, au détriment de milliers d’autres entreprises industrielles qui seraient rendues incapables, faute de l’assurance d’un contrôle suffisant, d’intégrer les fonctionnalités et facilités liées à l'IA. Parmi les acteurs américains, Open IA, Deepmind, Anthropic sont des organismes très concentrés qui sont en réalité captifs de leurs investisseurs : Alphabet, Microsoft, Intel, Nvidia. Il faut donc les considérer comme les entreprises de la Big Tech. 

Cette approche par les risques, censée être horizontale, est en réalité devenue très verticale. Plutôt que de parler de haut risque, il faudrait parler de secteurs à haut impact, capable de limiter les erreurs humaines grâce à une technologie de pointe dans des domaines cruciaux comme la santé, l’éducation ou l’administration publique. Parler de haut risque pourrait désinciter les investisseurs et simplement les conduire à éviter ces secteurs… Il faut au contraire évaluer avec précision la plus-value des modèles IA par rapport aux performances humaines et parler simultanément d'opportunités et de risques pour ces outils. 

Pour l'instant, l'IA d'usage général ne répond pas au cahier des charges de l'IA Act de juin et n’est pas conforme. Il faut donc que la régulation aille de pair avec une politique industrielle ambitieuse et digne de confiance en la matière. La mécanique de marché laissée à elle-même ne peut fonctionner : il faut garantir que les fournisseurs de ces modèles soient bien à niveau. 

Le risque, de fait, est là : celui d'une régulation libre-service où chaque acteur irait se servir selon ses préférences. Il est remarquable de constater que, quasi simultanément, se déroulent de grandes réunions capitales pour la gouvernance de l’IA : le sommet onusien IA for Good les 6 et 7 juillet 2023, le Code de conduite international pour les systèmes d'IA avancés dans le cadre du processus d’Hiroshima le 30 octobre, la Loi sur l'IA de l'UE de juin 2023, le sommet de Londres sur la gouvernance des risques extrêmes de ce 1er novembre… Ces forums concomitants font courir le risque d’une dissolution et d’un éparpillement de la prise de décision tout en noyant le débat dans une sorte de confusion sur les acteurs en présence. La nécessité d’une régulation bien organisée n’en est que plus impérieuse. 

Propos recueillis par Hortense Miginiac. 

Copyright Image : JUSTIN TALLIS / AFP