L'expansion de l'IA chinoise suscite des inquiétudes quant à la censure d'État intégrée et au contrôle de l'information

Alors que les développeurs chinois d'intelligence artificielle étendent leur présence commerciale sur les marchés mondiaux, leurs modèles génératifs agissent comme un prolongement du contrôle politique de Pékin, appliquant une stricte censure d'État tout en diffusant la propagande gouvernementale à l'étranger. Selon les informations du Christian Science Monitor, les interactions des utilisateurs avec les principaux modèles d'IA chinois entraînent systématiquement des refus préenregistrés lorsqu'ils sont interrogés sur des sujets politiquement sensibles, ce qui souligne la manière dont Pékin s'appuie sur une technologie de pointe pour renforcer l'autorité du parti au pouvoir à l'échelle nationale et exporter des récits validés par l'État à l'échelle internationale. Alors que ces systèmes font l'objet d'une adoption à grande échelle en raison de leurs performances compétitives et de leurs coûts d'exploitation inférieurs, les analystes technologiques et les décideurs politiques examinent avec une attention croissante la façon dont les garde-fous politiques imposés par l'État sont directement intégrés dans les architectures fondamentales de l'intelligence artificielle.

## Key facts - Les modèles chinois d'intelligence artificielle générative refusent systématiquement de traiter des sujets politiques sensibles, renvoyant fréquemment des messages d'erreur automatisés tels que « Je suis désolé, je ne peux pas répondre à cela. » - La Cyberspace Administration of China exige que tous les services d'IA générative nationaux adhèrent aux valeurs socialistes et passent des examens de sécurité rigoureux avant leur mise sur le marché. - Les développeurs technologiques chinois, y compris des entreprises majeures comme Baidu, Alibaba, Tencent et ByteDance, ont lancé des modèles commerciaux et open source qui rivalisent directement avec leurs équivalents occidentaux dans les benchmarks internationaux. - En octobre 2022 et octobre 2023, le United States Department of Commerce a promulgué des contrôles à l'exportation globaux limitant l'accès de la Chine aux composants semi-conducteurs de pointe utilisés pour entraîner des modèles d'IA de frontière. - Les évaluations internationales de sécurité révèlent que les garde-fous politiques figurant dans les logiciels d'IA chinois s'étendent au-delà des applications nationales, touchant les utilisateurs à l'étranger qui accèdent à des modèles développés en Chine et à des interfaces de programmation applicative.

## What happened Les enquêtes de The Christian Science Monitor démontrent que les systèmes d'IA générative chinois respectent strictement les messages officiels de l'État lorsqu'ils sont interrogés sur des questions politiques, les relations internationales ou des événements historiques sensibles pour le Parti communiste chinois. Lorsque les utilisateurs saisissent des requêtes concernant des sujets tels que les dirigeants politiques nationaux, la situation des droits de l'homme, les litiges territoriaux ou les manifestations historiques, les systèmes émettent généralement des avertissements standardisés, mettent fin à la session de dialogue ou redirigent la requête vers les positions officielles de l'État.

Ces réponses automatisées reflètent un système d'alignement politique à plusieurs niveaux intégré aux processus d'entraînement des modèles et aux filtres de post-traitement. Plutôt que de fournir des analyses historiques nuancées ou neutres, le logiciel est conçu pour détecter les mots-clés et les contextes sémantiques en contradiction avec la doctrine du parti. Dans les cas où les requêtes touchent à des revendications territoriales, telles que le statut de Taïwan ou les frontières maritimes en mer de Chine méridionale, les chatbots fournissent systématiquement des arguments correspondant à la rhétorique officielle du ministère des Affaires étrangères chinois.

La mise en œuvre de ces garde-fous ne se limite pas aux versions nationales destinées uniquement aux consommateurs de Chine continentale. Alors que les entreprises technologiques chinoises proposent des modèles open-weight et des interfaces de programmation applicative (API) hébergées dans le cloud aux développeurs internationaux, les utilisateurs étrangers utilisant ces outils sont fréquemment confrontés aux mêmes filtres approuvés par l'État. The Christian Science Monitor a constaté que cette architecture permet à Pékin de maintenir simultanément sa souveraineté de l'information au niveau national et de projeter son soft power à travers les écosystèmes numériques internationaux.

## Why it matters L'intégration de garde-fous politiques approuvés par l'État au sein des logiciels commerciaux d'IA comporte des implications majeures pour l'infrastructure mondiale de l'information, la souveraineté numérique et la concurrence sur les marchés internationaux. Alors que des organisations, des développeurs de logiciels et des utilisateurs individuels du monde entier intègrent des modèles de fondation chinois dans des applications tierces, les contraintes politiques codées en dur dans ces plateformes risquent de façonner discrètement les paramètres du discours public et de la génération automatisée de contenu sur plusieurs continents.

Pour les utilisateurs en entreprise et les développeurs de logiciels, s'appuyer sur des modèles dotés de filtres politiques codés en dur génère des défis opérationnels et éthiques. Les entreprises qui utilisent des architectures open source chinoises pour le service client, les plateformes éducatives ou la création automatisée de contenu peuvent voir leurs systèmes retenir de manière inattendue des informations ou renvoyer des avertissements politiques standardisés aux utilisateurs finaux. Cette dynamique soulève des questions concernant la neutralité des contenus et la dépendance vis-à-vis des fournisseurs pour les entités commerciales opérant en dehors de la juridiction chinoise.

D'un point de vue géopolitique, la diffusion mondiale de modèles d'IA alignés sur la censure constitue une nouvelle frontière dans la gestion de l'information soutenue par l'État. Contrairement aux diffusions des médias d'État traditionnels ou aux canaux de médias sociaux contrôlés, les systèmes d'IA générative fournissent des réponses conversationnelles personnalisées qui véhiculent une aura d'autorité algorithmique objective. Lorsque des millions d'utilisateurs internationaux s'appuient sur ces systèmes pour effectuer des recherches, des synthèses ou des traductions, l'exclusion subtile de perspectives historiques critiques et la répétition des récits étatiques peuvent modifier progressivement la perception du public sur des enjeux diplomatiques et géopolitiques clés.

## The background L'alignement structurel des systèmes d'IA chinois sur les priorités politiques de l'État repose sur un cadre juridique établi par les autorités de régulation de Pékin. En août 2023, la Cyberspace Administration of China (CAC), agissant aux côtés de plusieurs ministères, a officiellement mis en œuvre les « Mesures provisoires pour la gestion des services d'intelligence artificielle générative ». Ces réglementations ont défini des directives obligatoires régissant le développement et le déploiement d'outils génératifs en Chine continentale.

Conformément au cadre réglementaire de 2023, les développeurs doivent s'assurer que les résultats de l'IA respectent les « valeurs socialistes fondamentales » et s'abstenir de générer des contenus qui subvertissent le pouvoir de l'État, préconisent le renversement du système socialiste ou compromettent l'unité et la sécurité nationales. Pour garantir la conformité, la CAC a créé un registre administratif exigeant des entreprises technologiques qu'elles soumettent leurs modèles à des évaluations de sécurité, des audits algorithmiques et des contrôles de sécurité avant leur lancement public. Les principales entités technologiques nationales, notamment Baidu avec son Ernie Bot, Alibaba avec Tongyi Qianwen, Tencent avec Hunyuan et ByteDance avec Doubao, ont structuré leurs cycles de développement autour de ces étapes réglementaires obligatoires.

Cette poussée réglementaire interne s'est déroulée dans le contexte d'une compétition technologique croissante entre les États-Unis et la Chine. À partir d'octobre 2022, puis en octobre 2023, le U.S. Bureau of Industry and Security a introduit des règles strictes de contrôle à l'exportation conçues pour limiter la capacité de la Chine à s'approvisionner en puces semi-conductrices haut de gamme, telles que les processeurs graphiques (GPU) avancés de Nvidia. Malgré les contraintes d'approvisionnement en matériel et les restrictions à l'exportation, les entreprises technologiques et les instituts de recherche chinois ont accéléré le développement de modèles open source très performants, comblant rapidement les écarts de performance sur les benchmarks internationaux standard et obtenant une adoption significative sur le marché, tant dans les économies en développement que développées.

## Reaction L'application systématique de garde-fous politiques d'État dans les systèmes d'IA chinois a suscité des réactions contrastées de la part des régulateurs gouvernementaux, des experts en technologie et des groupes de la société civile à l'échelle mondiale. En Chine, les dirigeants d'entreprise et les équipes d'ingénierie logicielle ont considéré l'alignement politique comme un indicateur fondamental de conformité légale, créant des départements internes spécialisés dans la confiance et la sécurité dédiés au peaufinage des modèles par rapport à des listes de mots-clés interdits et à des ensembles de données politiques afin d'éviter les fermetures administratives.

Dans les capitales occidentales, les législateurs et les responsables du renseignement ont exprimé une inquiétude croissante quant à la possibilité que les applications d'IA étrangères servent de vecteurs d'influence clandestine et de gestion idéologique. Les chercheurs en politiques publiques aux États-Unis et en Europe ont exhorté les organismes de réglementation à instaurer des normes de transparence plus strictes pour les logiciels d'intelligence artificielle importés, préconisant des divulgations obligatoires concernant la provenance des données, les règles de modération de contenu et les structures de gouvernance d'entreprise.

Dans le même temps, la communauté mondiale du logiciel open source affiche des avis partagés. De nombreux développeurs saluent les entreprises technologiques chinoises pour la publication de modèles open-weight performants et économiques, qui démocratisent l'accès à des capacités de calcul avancées sans exiger de frais de licence exorbitants. Cependant, les chercheurs en cybersécurité et les défenseurs des droits numériques continuent de souligner les risques de sécurité associés au déploiement de systèmes fondamentaux dont les paramètres d'alignement centraux sont régis par des cadres réglementaires étrangers.

## What we don't know yet Malgré des tests approfondis sur les résultats produits par l'IA générative chinoise, d'importantes questions subsistent quant aux mécanismes techniques précis utilisés pour appliquer les garde-fous politiques. Il n'apparaît pas clairement dans quelle mesure la censure est directement intégrée dans les poids de base de ces modèles lors du pré-entraînement, appliquée via l'apprentissage par renforcement à partir de rétroactions humaines (RLHF), ou exécutée par des couches de filtrage secondaire en temps réel associées aux API des modèles. Comprendre ces distinctions techniques est essentiel pour déterminer si les développeurs internationaux peuvent facilement supprimer les restrictions politiques imposées par l'État lors de l'adaptation de modèles open-weight pour un déploiement local.

En outre, des incertitudes persistent quant à la rigueur avec laquelle les organismes de réglementation chinois appliqueront les règles d'alignement sur les modèles destinés exclusivement aux marchés d'exportation par rapport à ceux ciblant les utilisateurs nationaux. Alors que la concurrence étrangère s'intensifie, on ignore si Pékin autorisera les fournisseurs chinois de technologies à proposer des variantes non censurées ou personnalisées de leurs logiciels à des clients d'entreprises étrangères afin de préserver leur part de marché internationale.

## What to watch Dans les mois à venir, plusieurs indicateurs clés révéleront comment l'intersection de la surveillance étatique et de l'expansion du marché mondial façonne le paysage de l'IA :

- Mises à jour réglementaires de la CAC : les observateurs surveilleront si la Cyberspace Administration of China publie des directives d'application révisées ciblant l'accès international aux API et la publication de modèles open source. - Performances aux benchmarks mondiaux et tests de sécurité : les institutions de recherche indépendantes devraient publier des évaluations élargies comparant les biais politiques, les garde-fous de sécurité et les capacités techniques des modèles open source chinois par rapport aux alternatives occidentales. - Actions législatives sur les marchés d'exportation : les législateurs de l'Union européenne et des États-Unis pourraient introduire de nouvelles exigences de conformité ou des mandats de transparence pour les logiciels d'entreprise s'appuyant sur des modèles de fondation développés à l'étranger. - Stratégies d'adaptation matérielle : les analystes du secteur suivront la manière dont les développeurs chinois optimisent les méthodologies d'entraînement pour maintenir des capacités d'IA compétitives dans le cadre des contrôles continus à l'exportation de semi-conducteurs à l'échelle internationale.

Ce rapport s'appuie sur des informations originales publiées par The Christian Science Monitor.