Le PDG d'Anthropic, Dario Amodei, présente un plan pour ralentir le progrès de l'IA après la démission d'un chercheur

Le directeur général d'Anthropic, Dario Amodei, a proposé un plan formel visant à modérer le rythme des progrès en matière de capacités d'intelligence artificielle, selon des informations rapportées par Ashley Capoot. La proposition, détaillée dans un essai publié le 12 septembre 2026, préconise des mécanismes structurés susceptibles de retarder intentionnellement le développement et le déploiement de modèles de pointe lorsque les évaluations de sécurité ou les contrôles de confinement accusent un retard par rapport aux gains de capacités. La publication de l'essai d'Amodei est intervenue immédiatement après qu'un chercheur d'Anthropic a annoncé sa démission sur les réseaux sociaux plus tôt dans la semaine, un événement qui a provoqué un intense débat public quant à savoir si les principaux laboratoires d'IA respectent leurs engagements déclarés de prioriser la sécurité systémique par rapport à la vitesse commerciale.

## Faits clés - Le directeur général d'Anthropic, Dario Amodei, a publié une proposition le 12 septembre 2026 exposant un plan visant à ralentir le rythme de progression des capacités de l'IA, selon des informations rapportées par Ashley Capoot. - La proposition a été publiée peu après qu'un chercheur d'Anthropic a annoncé publiquement sa démission de l'entreprise plus tôt dans la semaine. - Le départ du chercheur a suscité de larges discussions sur les plateformes de réseaux sociaux, relançant le débat sur les engagements des entreprises en matière de sécurité. - Anthropic a été fondée en 2021 en tant que Public Benefit Corporation axée sur la recherche en matière de sécurité de l'IA et le déploiement responsable des technologies. - En 2023, Anthropic a pionnièrement élaboré le cadre de la Responsible Scaling Policy (RSP), liant les engagements de sécurité des modèles à des seuils de capacités.

## Ce qui s'est passé La séquence d'événements a débuté plus tôt dans la semaine lorsqu'un chercheur d'Anthropic a publiquement annoncé sa démission de l'entreprise d'intelligence artificielle basée à San Francisco, selon des informations rapportées par Ashley Capoot. L'annonce a rapidement gagné en visibilité sur les plateformes de réseaux sociaux, suscitant un vaste débat parmi les chercheurs en apprentissage automatique, les observateurs du secteur technologique et les partisans de la sécurité de l'IA concernant la culture d'entreprise interne et les priorités de sécurité.

À la suite du débat en ligne suscité par le départ du chercheur, Dario Amodei a publié un essai le 12 septembre 2026 traitant de la trajectoire du développement de l'IA de pointe. Dans ce document, Amodei a proposé un plan concret visant à ralentir le rythme auquel les capacités avancées d'intelligence artificielle sont mises sur le marché. Selon les informations d'Ashley Capoot, le cadre d'Amodei décrit des déclencheurs potentiels en vertu desquels les laboratoires d'IA de pointe mettraient en pause ou décéléreraient le passage à l'échelle des capacités des modèles si les protocoles de sécurité, les outils d'évaluation ou l'infrastructure de confinement ne parviennent pas à suivre le rythme de l'augmentation des performances brutes.

Cet essai constitue un appel significatif de la part du dirigeant d'une grande entreprise d'IA de pointe à formaliser des mécanismes opérationnels de décélération. Bien qu'Anthropic ait déjà publié des recherches théoriques et des normes de gouvernance interne concernant la mise à l'échelle sécurisée, la dernière proposition d'Amodei aborde directement la nécessité opérationnelle de ralentir les progrès de capacités sous des conditions de risque spécifiques.

## Pourquoi c'est important La proposition d'Amodei intervient à un moment critique pour le secteur technologique mondial et le paysage réglementaire régissant les technologies émergentes. À mesure que la taille des paramètres, l'utilisation de la puissance de calcul et les capacités des modèles d'intelligence artificielle augmentent, le profil de risque associé aux agents autonomes, aux cyberopérations et aux perturbations économiques systémiques s'est élargi.

Pour les marchés commerciaux, une proposition visant à ralentir intentionnellement le progrès représente un tournant notable. Dans un secteur caractérisé par une concurrence féroce — où les entreprises dépensent des milliards de dollars en unités de traitement spécialisées, en infrastructures de données et en talents d'ingénierie —, suggérer un mécanisme pour décélérer les capacités souligne une prise de conscience croissante du fait qu'une concurrence sans contrainte pourrait dépasser les capacités de supervision humaine. Si de tels protocoles de décélération étaient adoptés à de plus larges échelles dans le secteur, ils pourraient modifier le calendrier des dépenses d'investissement, le rythme de sortie des produits et les attentes des investisseurs concernant le retour sur investissement.

Pour les décideurs politiques à Washington et les organismes de réglementation internationaux, l'essai d'Amodei fournit un modèle potentiel pour l'établissement de normes légales. Les régulateurs ont régulièrement éprouvé des difficultés à définir des critères empiriques permettant de déterminer à partir de quand un modèle d'IA présente un risque suffisant pour justifier un déploiement restreint. Un cadre proposé par un développeur majeur de pointe offrant des critères opérationnels de ralentissement du développement pourrait influencer les initiatives législatives visant à gérer les risques systémiques de l'IA.

En outre, le débat public suscité par le départ du chercheur met en lumière les dynamiques de talents en cours dans le secteur de la sécurité de l'IA. Le personnel de recherche spécialisé dans l'alignement, l'interprétabilité mécaniste et le « red-teaming » reste très recherché dans le monde entier. Les démissions publiques et les discordes internes sur les priorités d'entreprise affectent directement la capacité d'une organisation à recruter et à fidéliser des talents spécialisés.

## Le contexte Pour comprendre la portée de la proposition d'Amodei, il est essentiel de retracer l'histoire d'Anthropic et l'évolution plus large de la gouvernance de la sécurité de l'IA.

Anthropic a été fondée en 2021 par Dario Amodei, sa sœur Daniela Amodei et plusieurs anciens collègues chercheurs seniors qui ont quitté OpenAI. Les fondateurs ont quitté OpenAI principalement en raison de désaccords internes sur la structure d'entreprise de l'organisation, la trajectoire de commercialisation rapide et de craintes de voir la concurrence commerciale éclipser la recherche fondamentale sur la sécurité. Lors du lancement d'Anthropic, l'équipe a structuré la société en tant que Public Benefit Corporation dans le Delaware, ce qui oblige légalement les dirigeants à trouver un équilibre entre la génération de profits et les engagements d'intérêt public et de sécurité.

En septembre 2023, Anthropic a présenté sa Responsible Scaling Policy (RSP), un cadre conçu pour régir le développement de modèles. Inspirée des niveaux de biosécurité (BSL) utilisés dans la recherche scientifique, Anthropic a défini des niveaux de sécurité de l'IA allant d'ASL-1 (modèles à risque négligeable) jusqu'à ASL-4 et au-delà (modèles présentant de graves capacités autonomes ou des connaissances biologiques dangereuses). Dans le cadre de la RSP, Anthropic s'est engagée à ne pas entraîner ni déployer un modèle atteignant un seuil ASL supérieur à moins que des mesures de sécurité et de sûreté spécifiques et rigoureuses ne soient déjà opérationnelles.

Cependant, le maintien de cet équilibre s'est révélé complexe dans l'ensemble du paysage de l'IA de pointe. En mai 2024, OpenAI a fait face à des démissions retentissantes lorsque des membres clés de son équipe Superalignment, dont le coresponsable Jan Leike et le cofondateur d'OpenAI Ilya Sutskever, ont quitté l'entreprise. Jan Leike a déclaré publiquement que la culture et les processus de sécurité étaient passés au second plan au profit de produits commerciaux attrayants. Des tensions similaires ont émergé dans d'autres grands laboratoires au moment où la concurrence pour parvenir à une intelligence générale s'intensifie.

Dans le même temps, la supervision gouvernementale a tenté de suivre le rythme. En octobre 2023, le président américain Joe Biden a publié l'Executive Order 14110, exigeant des développeurs de modèles fondations à double usage dépassant des seuils de puissance de calcul spécifiés qu'ils partagent les résultats des tests de sécurité avec les autorités fédérales. Des initiatives à l'échelle des États, comme le projet de loi SB 1047 en Californie, ont cherché à imposer des protocoles de sécurité clairs et des normes d'atténuation des risques pour les modèles à grande échelle.

Dans ce contexte historique, la combinaison du départ d'un chercheur en interne et d'une proposition publique d'Amodei reflète une friction structurelle permanente au sein du secteur de l'IA : concilier la concurrence commerciale et la vitesse technique avec le confinement des risques en matière de sécurité.

## Réactions La démission du chercheur et l'essai d'Amodei qui a suivi ont suscité des commentaires immédiats dans les milieux du secteur technologique, les forums politiques et les plateformes de réseaux sociaux.

Sur les réseaux sociaux, des chercheurs en apprentissage automatique, des spécialistes de l'éthique des technologies et des observateurs du secteur ont débattu des répercussions des deux événements. Les défenseurs de la sécurité de l'IA ont salué la volonté d'Amodei de discuter explicitement de la décélération, observant que peu de dirigeants du secteur technologique concurrentiel préconisent volontairement de ralentir le développement technologique fondamental. À l'inverse, les critiques et les sceptiques du secteur se sont demandés si une proposition de ralentissement volontaire sans accord multilatéral contraignant pouvait réussir, soutenant que toute entreprise ralentissant de manière isolée risquerait de céder sa position concurrentielle à des entités rivales nationales ou internationales.

Bien que les déclarations publiques officielles de développeurs d'IA concurrents tels qu'OpenAI, Google DeepMind ou Meta n'aient pas été incluses dans le reportage initial d'Ashley Capoot, les analystes politiques s'attendent à des réponses formelles lors des prochaines conférences du secteur et auditions législatives. Les commissions du Congrès axées sur les risques technologiques devraient également examiner la proposition d'Amodei pour déterminer si ses mécanismes pourraient être intégrés dans les cadres de supervision fédéraux.

## Ce que l'on ne sait pas encore Plusieurs éléments clés concernant à la fois le départ du chercheur et la proposition d'Amodei restent à confirmer sur la base des informations disponibles.

Premièrement, l'identité spécifique, l'affiliation d'équipe et les raisons précises fournies par le chercheur d'Anthropic démissionnaire n'ont pas été précisées au-delà de sa déclaration initiale sur les réseaux sociaux. On ignore encore si ce départ est dû à un risque technique spécifique identifié dans un futur modèle d'Anthropic ou à des désaccords stratégiques plus larges sur les priorités de l'entreprise.

Deuxièmement, les caractéristiques techniques du plan de décélération proposé par Amodei nécessitent des clarifications supplémentaires. Le reportage d'Ashley Capoot ne précise pas les critères empiriques exacts, les métriques de puissance de calcul ni les exigences d'audit tiers qui déclencheraient un ralentissement opérationnel. Sans seuils quantitatifs clairs, les observateurs ne peuvent évaluer la facilité avec laquelle le plan proposé pourrait être exécuté dans la pratique.

Enfin, il n'est pas vérifié si Anthropic a l'intention de mettre en œuvre ce cadre de décélération de manière unilatérale ou si la proposition dépend d'une adoption mutuelle par les laboratoires d'IA de pointe rivaux.

## À surveiller Au cours des prochains mois, plusieurs étapes clés permettront de préciser l'impact pratique de la proposition d'Amodei et des engagements de sécurité d'Anthropic :

- **Livres blancs officiels ou documents de référence :** Il conviendra de surveiller si Anthropic publie de la documentation technique approfondissant le cadre de ralentissement proposé dans l'essai d'Amodei. - **Réponses des laboratoires d'IA rivaux :** Les déclarations des dirigeants des laboratoires d'IA concurrents indiqueront si les entreprises rivales sont prêtes à envisager des critères de décélération conjointe. - **Engagement réglementaire :** Les discussions au sein de l'U.S. AI Safety Institute et des commissions du Congrès permettront de voir si le cadre d'Amodei pourrait alimenter les règles d'évaluation fédérales. - **Prochaines sorties de modèles :** Les calendriers de déploiement et les évaluations de sécurité des futurs modèles d'Anthropic serviront de test pratique pour déterminer si l'entreprise applique les principes de décélération à son propre cycle de publication.

Les informations de ce compte rendu ont été fournies par Ashley Capoot.