Les dirigeants de la tech ont appelé à la retenue sur l'intelligence artificielle, mais la pression financière alimente une nouvelle course

La direction des principaux laboratoires d'intelligence artificielle a publiquement manifesté le souhait d'encadrer ou de ralentir le rythme effréné du développement des modèles de pointe, alors même que les stratégies internes et les présentations aux investisseurs privés continuent de privilégier un déploiement rapide et la domination du marché. Selon des informations du correspondant tech Gerrit De Vynck, le directeur général d'Anthropic, Dario Amodei, aux côtés de dirigeants d'OpenAI et de SpaceX — dont le fondateur Elon Musk supervise la start-up concurrente xAI —, a préconisé un freinage de la trajectoire rapide du secteur, pour finalement maintenir une posture de développement agressive à peine six semaines plus tard. La divergence entre les appels à la prudence réglementaire et les réalités opérationnelles de la recherche de pointe financée par le capital-risque met en lumière la tension persistante entre les principes de sécurité affichés et les puissantes incitations commerciales qui régissent le secteur le plus capitalistique de la Silicon Valley.

## Key facts

- Le directeur général d'Anthropic, Dario Amodei, a publiquement soutenu les appels à freiner ou à modérer le rythme rapide du développement de l'intelligence artificielle. - De hauts dirigeants d'organisations rivales, notamment la direction d'OpenAI et le fondateur de SpaceX Elon Musk, avaient déjà exprimé des sentiments similaires quant à la nécessité d'une retenue structurelle sur l'entraînement des modèles de pointe. - Dans les six semaines environ suivant ces prises de position publiques, les laboratoires de pointe ont indiqué aux investisseurs privés leur intention de maintenir ou d'accélérer leurs trajectoires concurrentielles plutôt que de ralentir. - Anthropic, fondée en 2021 en tant que public-benefit corporation mettant explicitement l'accent sur la sécurité de l'IA, dépend d'engagements de plusieurs milliards de dollars en matière de cloud computing de la part de partenaires tels qu'Amazon et Google. - La dynamique concurrentielle entre les principaux développeurs de modèles de pointe continue de s'articuler autour de l'acquisition de processeurs graphiques avancés, de l'expansion des infrastructures de centres de données et de la conclusion de tours de table de plusieurs milliards de dollars.

## What happened

Selon les informations de Gerrit De Vynck, d'éminents dirigeants du secteur technologique ont adopté une double posture sur une période d'environ six semaines : mettant publiquement en garde contre l'accélération incontrôlée de l'intelligence artificielle, tout en rassurant simultanément les bailleurs de fonds sur leur intention de repousser les limites dans la compétition commerciale. Au cœur de cette évolution figurait Dario Amodei, directeur général de la société Anthropic, basée à San Francisco, qui s'est joint à des pairs, dont la direction d'OpenAI et Elon Musk, pour exprimer la nécessité de freiner les progrès vertigineux de la technologie.

Pourtant, à huis clos et lors des présentations aux partenaires financiers, peu d'éléments attestent d'une décélération opérationnelle. Les informations indiquent que les entreprises ont continué à solliciter des apports massifs de capitaux, affirmant aux investisseurs qu'elles accéléreraient pour conquérir des parts de marché et franchir de nouveaux caps techniques. Si les dirigeants ont soutenu, dans les forums de politique publique et leurs déclarations officielles, que des bonds techniques incontrôlés posent des risques systémiques pour la société et la sécurité nationale, leurs feuilles de route d'entreprise restent orientées vers le lancement de modèles plus performants selon des calendriers resserrés.

Cette dynamique illustre le piège institutionnel auquel se heurtent les développeurs d'IA de pointe. Lors des présentations aux investisseurs en capital-risque, ralentir unilatéralement est fréquemment perçu par les bailleurs de fonds comme un abandon de la suprématie technologique au profit de rivaux directs. En conséquence, les aveux publics des dirigeants d'entreprise selon lesquels la technologie progresse trop vite ne se sont pas traduits par des interruptions vérifiables des cycles d'entraînement des modèles, du déploiement de clusters de calcul ou du recrutement intensif de chercheurs en apprentissage automatique.

## Why it matters

La contradiction entre le discours des dirigeants et l'exécution opérationnelle emporte des conséquences concrètes pour les décideurs politiques, les investisseurs, les acheteurs de logiciels d'entreprise et le grand public. Pour les régulateurs à Washington, Londres et Bruxelles, cet épisode démontre les limites de l'autorégulation volontaire du secteur. Lorsque les dirigeants d'entreprise concèdent que le progrès technique avance à un rythme dangereusement rapide tout en admettant, implicitement ou explicitement, devant les investisseurs que les pressions concurrentielles leur interdisent toute pause, les organes législatifs se retrouvent face à la preuve évidente qu'une retenue auto-imposée résiste rarement à la concurrence du marché.

Sur les marchés financiers, le récit d'un progrès rapide et inévitable est essentiel pour justifier les valorisations historiques actuellement accordées aux entreprises d'IA de pointe. Les principaux laboratoires consomment chaque année des milliards de dollars en dépenses opérationnelles, principalement tirées par l'accès à des clusters de semi-conducteurs de pointe tels que les puces Nvidia H100 et Blackwell et par des infrastructures électriques spécialisées. Si un laboratoire décidait unilatéralement d'une pause ou d'une période de temporisation prolongée sans traité multilatéral contraignant, son efficacité du capital se détériorerait rapidement alors que les coûts d'infrastructure fixes resteraient dus. Par conséquent, les investisseurs exigent des itérations techniques démontrables et une cadence commerciale soutenue comme condition au maintien de leurs financements.

Pour les entreprises clientes et la société civile, ce rythme accéléré aggrave les défis de gouvernance. Les organisations qui intègrent des systèmes de pointe dans leurs processus d'entreprise doivent continuellement s'adapter à l'évolution des capacités, aux cycles d'obsolescence et aux vulnérabilités de sécurité émergentes. Dans le même temps, les évaluations indépendantes portant sur les risques de biosécurité des modèles, les failles de cybersécurité et les craintes de réplication autonome peinent à suivre le rythme de calendriers de déploiement dictés par les attentes des investisseurs plutôt que par une vérification exhaustive de la sécurité.

## The background

La tension entre capacités techniques et risques existentiels a plané sur Anthropic dès sa création. Fondée en 2021 par Dario Amodei et sa sœur Daniela Amodei — tous deux anciens hauts dirigeants d'OpenAI —, Anthropic a été constituée en tant que Delaware public-benefit corporation. Son équipe fondatrice a quitté OpenAI principalement en raison de craintes que les partenariats commerciaux et la commercialisation rapide des produits, notamment l'alliance renforcée avec Microsoft Corporation, ne subordonnent la recherche fondamentale sur la sécurité à des impératifs commerciaux.

Afin de formaliser son engagement en faveur d'un développement responsable, Anthropic a instauré un Long-Term Benefit Trust et adopté un cadre volontaire baptisé Responsible Scaling Policies, ou RSPs. Selon ces directives, l'entreprise s'est engagée à subordonner le développement et le déploiement de modèles toujours plus performants à des niveaux de sécurité prédéfinis, exigeant des garde-fous techniques et opérationnels spécifiques avant d'entamer l'entraînement de systèmes présentant certains seuils de risque. De même, OpenAI a publié son propre Preparedness Framework pour évaluer les risques catastrophiques dans les domaines chimique, biologique, radiologique et cybernétique.

Les appels publics à la retenue ont été récurrents tout au long de l'histoire récente de l'IA. En mars 2023, le Future of Life Institute a publié une lettre ouverte signée par des milliers d'experts techniques, d'universitaires et de dirigeants — dont Elon Musk —, réclamant un moratoire de six mois sur l'entraînement de systèmes plus puissants que le modèle GPT-4 d'OpenAI. Malgré l'attention publique suscitée par cette pétition, aucun grand développeur de modèles de pointe n'a suspendu ses investissements d'infrastructure ni ses entraînements de pointe. Au lieu de cela, Musk a par la suite fondé son propre laboratoire concurrent, xAI, qui a rapidement construit le cluster de supercalculateurs Colossus à Memphis, dans le Tennessee, exploitant 100 000 processeurs graphiques pour entraîner sa famille de modèles Grok.

Les décideurs fédéraux ont tenté d'encadrer le secteur par des mécanismes administratifs. En octobre 2023, l'administration Biden a publié l'Executive Order 14110 sur une intelligence artificielle sûre, sécurisée et digne de confiance, invoquant le Defense Production Act pour exiger des développeurs de modèles de fondation à double usage dépassant certains seuils de calcul — fixés à 10^26 opérations en virgule flottante — qu'ils communiquent les résultats de leurs tests de sécurité au gouvernement fédéral et au nouvel U.S. Artificial Intelligence Safety Institute, hébergé au sein du National Institute of Standards and Technology. Cependant, l'autorité légale permettant d'imposer des pauses ou des ralentissements contraignants demeure inexistante au niveau fédéral aux États-Unis, laissant les décisions relatives au rythme de développement entièrement aux mains des conseils d'administration et des directions d'entreprise.

## Reaction

Le contraste entre les mises en garde publiques et les messages adressés aux investisseurs, documenté dans l'enquête de De Vynck, devrait intensifier la surveillance exercée par Capitol Hill et les organismes de réglementation internationaux. Les parlementaires qui ont auditionné Amodei, le directeur général d'OpenAI Sam Altman et d'autres figures de la tech lors d'audiences du Congrès sur la supervision de l'intelligence artificielle risquent de se demander si les garanties volontaires des entreprises constituent une base adéquate pour une politique nationale.

Les organisations d'intérêt public et les chercheurs universitaires spécialisés dans la responsabilité algorithmique soutiennent depuis longtemps que les engagements des entreprises en faveur d'un rythme éthique relèvent d'opérations de relations publiques destinées à devancer des contraintes législatives obligatoires. Ces observateurs devraient citer les communications destinées aux investisseurs comme la preuve que la dynamique concurrentielle prime sur les limites éthiques déclarées.

À l'inverse, des personnalités de l'écosystème du capital-risque, en particulier celles alignées sur des philosophies techno-optimistes et open source, ont historiquement critiqué les appels à des ralentissements réglementaires, y voyant une capture réglementaire. Ces détracteurs soutiennent que les acteurs en place plaident publiquement pour des ralentissements liés à la sécurité afin d'ériger de lourdes barrières de conformité face aux concurrents émergents, tout en menant en privé des stratégies agressives pour consolider leur propre domination sur le marché.

## What we don't know yet

Plusieurs éléments cruciaux concernant les échanges rapportés demeurent inconnus. L'article ne précise pas les cadres exacts, les dates ou les documents financiers précis dans lesquels Amodei et ses homologues ont communiqué leurs projets aux investisseurs, et ne précise pas non plus si les freins proposés étaient envisagés comme des pactes mutuels volontaires, des plafonds réglementaires formels ou des traités internationaux conditionnels.

Par ailleurs, il reste difficile d'établir si l'un des grands laboratoires a formellement envisagé d'activer ses mécanismes internes de pause — tels que les déclencheurs des Responsible Scaling Policies d'Anthropic ou les seuils du Preparedness Framework d'OpenAI — durant cette période, ou si les évaluations de sécurité en cours n'ont trouvé aucune justification technique à un arrêt opérationnel. Des zones d'ombre subsistent également quant à la manière dont les principaux soutiens industriels, tels qu'Amazon, Google et Microsoft, ont réagi à ces prises de parole publiques, et quant à la question de savoir si ces partenaires ont exercé des pressions contractuelles sur la direction des laboratoires afin de maintenir la dynamique commerciale pour préserver leurs revenus d'infrastructure cloud.

## What to watch

La trajectoire concrète du secteur sera déterminée par plusieurs étapes clés au cours des prochains trimestres. Les observateurs devront surveiller si Anthropic, OpenAI ou xAI annoncent des révisions formelles de leurs cadres volontaires de sécurité ou signalent avoir atteint des seuils de risque désignés déclenchant des pauses internes dans l'entraînement. Toute déclaration au titre des obligations de rapport prévues par les directives exécutives fédérales ou les mesures étatiques émergentes, telles que les initiatives législatives en cours en Californie et la mise en œuvre progressive de l'AI Act dans l'Union européenne, fournira des preuves vérifiables d'une éventuelle modification du rythme opérationnel.

Les publications financières et les déclarations de levées de fonds constitueront un autre indicateur déterminant. Si Anthropic et ses pairs bouclent de nouveaux tours de table de plusieurs milliards de dollars reposant sur une montée en puissance rapide de la puissance de calcul et des sorties rapprochées de modèles, cela confirmera que les incitations du marché demeurent résolument opposées à tout ralentissement. Enfin, les prochaines auditions au Congrès et les sommets internationaux sur la sécurité de l'IA permettront de voir si les dirigeants sont poussés sous serment à concilier leurs mises en garde publiques contre un emballement technologique avec leurs engagements privés auprès de leurs apporteurs de capitaux.

Ce compte rendu s'appuie sur les informations originales du journaliste spécialisé dans les technologies Gerrit De Vynck.