Deepseek : la réussite, et le conte de Noël chinois

Le coup de tonnerre que représente l’arrivée inopinée de DeepSeek (深度求索) sur le marché des modèles de langages d’intelligence artificielle, et les réactions boursières liées, méritent bien plus qu’un examen de surface.

Il nous enseigne d’abord combien les biais cognitifs nous empêchent souvent de prédire de nouvelles tendances. Depuis plusieurs décennies, les travailleurs et ingénieurs d’origine chinoise, y compris de Taiwan, très représentés, sont le premier apport étranger à la Silicon Valley. Qu’ils soient aussi formés en partie à l’étranger ne change rien. Leur qualité intrinsèque, les allers et retours avec la Chine font que, selon certains, limiter les échanges humains avec la Chine dans ces domaines nuirait en réalité plus aux États-Unis qu’à la Chine…

Quant à la politique chinoise dans le domaine numérique, elle a été marquée par deux caractéristiques encore amplifiées sous l’ère Xi Jinping : la première est de favoriser la concurrence horizontale et les nouveaux entrants. Les mesures anti-monopole prises sous Xi Jinping contre les plus grands groupes relèvent de cette volonté, en même temps bien sûr que de la volonté de voir refluer leur puissance. Et, seconde tendance, la Chine a prospecté activement les investissements du capital-risque international, massivement importé et utilisant les logiciels, matériels et l’architecture des meilleures entreprises internationales. Les grands concepteurs et fabricants de semi-conducteurs (Nvidia, Broadcom, Qualcomm et TSMC) se sont engouffrés dans cette direction, et continuent de le faire en tentant de contourner les restrictions aux exportations mises en place sous l’administration Biden.

Quant aux grands modèles de langage (LLM) open source concurrents des modèles propriétaires les plus avancés, ils sont par définition adoptables par d’autres, et comptent sur une diffusion plus rapide à meilleur prix pour dépasser les modèles propriétaires plus avancés. C’est d’ailleurs un raisonnement très proche de celui effectué par la Chine dans de nombreux domaines industriels : avec 90 % de la performance mais 50 % du coût, vous pouvez tout de même acquérir un avantage compétitif sur le marché.

Les particularités du modèle DeepSeek

En pratique, les modèles successivement développés par DeepSeek (V1, V2, R-1 et V3 ainsi que les dérivés) ont évidemment bénéficié de l’expérience de modèles open source américains tels que LlaMA (Meta) ou du français Mistral, tout en adoptant une architecture différente. DeepSeek recommande d’ailleurs que l’adoption éventuelle de ces modèles en boucle locale, sans passer par les serveurs de DeepSeek et avec d’éventuelles modifications d’algorithme  utilise LlaMA. La confusion fréquente sur ce qu’est un modèle open source – que le grand public croit synonyme de liberté – fait que sa promotion par l’État-parti chinois surprend, puisque celui-ci a une approche totalitaire du contrôle de l’information.

On oublie trop souvent deux faits : d’une part, l’architecture open source permet précisément à une autorité de contrôle de surveiller les algorithmes au plus près ;d’autre part, dans l’utilisation par le grand public d’un modèle langagier, ce qui inquiète l’État-parti, ce ne sont pas les questions posées par les utilisateurs – qu’il sera au contraire ravi de connaître – ce sont les réponses qui leur seront apportées.

Cela veut seulement dire que les millions d’utilisateurs qui ont téléchargé DeepSeek-R1 ces derniers jours sur la boutique Apple ont acquis un coach de rééducation politique à domicile, entièrement contrôlé (et stocké) en Chine. C’est plus facile à comprendre dans les cas évoqués ci-dessus que pour des requêtes moins évidentes.

Mais cela ne suffit pas à invalider l’utilité et les avantages éventuelles du modèle.Car il peut être repris et modifié par d’autres. Perplexity AI, un autre modèle langagier américain open source, se vante déjà d’utiliser DeepSeek sans la censure chinoise, et en boucle locale, c’est-à-dire sans passage par la Chine. Un algorithme en open source est modifiable, et peut être entraîné sur d’autres bases de données. L’argument est en partie analogue à ce que revendique TikTok pour la version américaine de l’application.

Les vraies surprises sont ailleurs. D’abord, dans la capacité d’un ingénieur–investisseur, Liang Wenfeng, le fondateur de DeepSeek, de passer d’un hedge fund financier quantitatif (c’est-à-dire d’un fonds prenant sa décision d'investissement en s’appuyant sur des techniques d’analyses quantitatives fondées sur des modélisations mathématique et statistique), High Flyer, à l’invention d’un langage aussi performant avec moins de 200 personnes. Il affirme que ce sont pour la plupart des débutants, afin d’éviter précisément les biais cognitifs ! Sur le plan de l’anecdote, en regardant les cotisations sociales payées certes, une base de données d’entreprises chinoises, l’entreprise n’indique que 4 salariés. Mais aussi, explique-t-il, avec un nombre très restreint de semi-conducteurs Nvidia dont l’exportation est encore permise pour cette catégorie, et avec l’équivalent de 5,5 millions d’euros pour l’entraînement du modèle.

Des origines et une structure capitalistique à creuser

Mais toute une série de questions se posent. D’abord, sur les moyens utilisés. Créée en juillet 2023, DeepSeek est une émanation du fonds quantitatif High-Flyer connu en Chine sous le nom de Magic Cube ou Huanfang Quant (幻方量化) et regroupant deux autres hedge funds, Zhejiang Jiuzhang Asset Management Co. et Ningbo Huanfang Quant Investment Management Partnership (Limited Partnership). Ce fonds quantitatif contrôlé par Liang Wenfeng est domicilié en Chine et à Hong Kong. Parfois comparé à l’Américain Renaissance, il emploie beaucoup de mathématiciens. C’est lui qui a été l’incubateur de DeepSeek.

Ce fonds a acheté, avant 2022 selon ses affirmations, plus de 10 000 puces H100 Nvidia, les plus performantes, ce qui le place parmi les cinq plus gros acheteurs chinois connus, et lui a permis de construire deux superordinateurs. Son entrée dans l’IA date de 2019, et ne s’est pas limitée à l’apprentissage pour le trading quantitatif. En juillet 2024,date qui coïncide avec le lancement par DeepSeek de son langage V2, les investissements de Huanfang dans l’IA étaient évalués à 400 millions d‘euros, une somme qui excède ceux de certaines entreprises phares de l’IA pour la phase de création et d’entraînement d’un grand modèle de langage. L’apparition de DeepSeek V2 a déclenché en Chine une guerre des prix sanglante avec les géants du secteur : Zhipu AI (智谱AI), Volcano Engine (火山引擎), Alibaba Cloud (阿里云), Baidu (百度), et Tencent (腾讯). Cette guerre des prix est pourtant largement passée inaperçue à l’étranger, autre biais cognitif…

Sur un sujet voisin, Nvidia a augmenté ses ventes à Singapour de 700 % en trois ans, y faisant 20 % de son chiffre d’affaires mondial. Les données douanières de Singapour sont notoirement vagues, et il est plus que probable que ces puces sont en grande partie reparties vers la Chine. Si DeepSeek a utilisé ces puces H100, l’entreprise, créée formellement en 2023, ne peut le dire en raison de l’embargo américain. De plus, Nvidia a tout fait pour renforcer certaines caractéristiques techniques de ses puces H800, celles qui restent exportables vers la Chine.

Quelles caractéristiques techniques spécifiques ?

De l’aveu même de DeepSeek, le chiffre retenu pour le financement de son modèle ne concerne que l’entraînement sur ses données, et non la recherche et la mise au point initiale. Les coûts énormes des modèles d’IA concernent non pas l’entraînement (même s’il est clair que DeepSeek a réussi une prouesse d’efficacité  sur certains points) mais leur utilisation, notamment l’inférence (algorithmes de requêtes). Les puces destinées à l’inférence sont construites pour des applications spécifiques (ASICS, Application-specific integrated circuit en anglais) et non à portée générale (GPU, Graphics Processing Unit en anglais). Elles ne nécessitent pas non plus le design le plus avancé : 7 ou même 14 nm peuvent suffire. Elles consomment moins d’énergie, et Nvidia est loin d’y avoir un quasi-monopole. Broadcom, AMD et Huawei ou Groq (Chine) sont de très sérieux concurrents.

Sur les capacités de DeepSeek-R1, sans prétendre à une expertise particulière, on peut avancer une explication ou une comparaison simplifiée : le modèle rapatrie ce qui chez d’autres est effectué par des applications extérieures ou interfaces de programmation (API, application programming interface en anglais). En ciblant certains usages et certains domaines, il est donc bien plus économe en puissance de calcul et en énergie. Et effectivement, la Chine est très avancée dans l’utilisation massive de ces API, qui ont conquis les utilisateurs chinois. Mais, outre l’absence de génération d’images et de vidéos, cette sectorisation de la collecte de données au sein de DeepSeek-R1 ou V3 peut aussi appauvrir les résultats en cantonnant l’exploration. DeepSeek-R1 donne de meilleurs résultats pour les calculs mathématiques et le codage, mais de moins bons pour les autres requêtes des utilisateurs. DeepSeek revendique aussi une capacité d’auto-renforcement, c’est-à-dire que le logiciel s’améliore de lui-même, sans intervention extérieure. Une telle performance posera de sérieux problèmes de sécurité, puisque l’alignement (la conformité aux objectifs et aux valeurs des concepteurs humains) devient dès plus difficile à garantir.

D’autres objections sont moins probantes. La licence d’utilisation du modèle comporte certes en pratique des conditions d’accès au code et à l’entraînement. Mais étant donné les risques de procès sur leurs sources, peu de modèles langagiers, ouverts ou fermés, communiquent sur les champs de données qu’ils récoltent. Et il semble que le code de DeepSeek-R-1 puisse relativement aisément être rétro-identifié, y compris sans la licence privilégiée.

Les liens avec le pouvoir politique sont moins connus. Mais c’est le 20 janvier que Liang Wenfeng, largement inconnu du public, a pris la parole devant le premier ministre Li Qiang pour un événement annuel consacré à l’IA. La coïncidence temporelle avec l’ascension politique d’Elon Musk, le renforcement des sanctions sur les exportations de technologie d’une administration Biden sur le départ, et le lancement de Stargate avec la bénédiction de Donald Trump, est évidemment frappante. Il est impossible d’en dire plus, d’autant que ce n’est pas le pouvoir politique qui a conçu cette avancée technologique.

Les leçons technologiques et géopolitiques à en tirer

DeepSeek-R1 constitue un grand pas en avant pour la productivité de l’intelligence artificielle, par la réduction de sa consommation en données de calcul et en énergie. Ce n’est pas un “moment Spoutnik”, mais il lance une course à l’efficacité (et non aux performances dans l’absolu) qui avait déjà démarré en Chine. L’incroyable valorisation des fabricants de semi-conducteurs – avant tout Nvidia – était aussi une bulle spéculative qui attendait d’être percée. C’est fait. N’exagérons pas sa portée : avant de perdre 500 milliards d’euros en une journée, l’action en avait gagné 250 milliards en une seule semaine. La chute boursière affecte aussi des valeurs du secteur de l’énergie, dont on sait qu’il sera particulièrement mis à contribution pour alimenter les centres de données nécessaires à l’IA.

D’un point de vue géopolitique, ce développement confirme évidemment la qualité des ressources humaines chinoises, où qu’elles soient. Il infirme aussi un peu plus la vision optimiste de ceux qui pensent que le totalitarisme chinois, bien réel, empêche les innovations majeures. Elles sont au contraire promues dans un cadre techno-futuriste – à condition que leurs paramètres et leur usage restent sous le contrôle de l’État-parti.

Alors, dé-téléchargez DeepSeek-R1, d'ailleurs peu ergonomique, de vos portables, car son algorithme, ses données et son stockage sont totalement sous le contrôle du gouvernement chinois. Mais ne sous-estimez pas la vague d’innovations et le bond en avant que son apparition va susciter dans le monde de l’IA.

Copyright Lionel BONAVENTURE / AFP
La baleine bleue, logo de DeepSeek