OpenAI collabore avec Anthropic et Google DeepMind sur des cadres de sécurité de l'IA

OpenAI s'est engagée dans des initiatives conjointes de sécurité de l'intelligence artificielle aux côtés de ses principaux rivaux commerciaux, Anthropic et Google DeepMind d'Alphabet, selon des déclarations du responsable des politiques publiques mondiales d'OpenAI, Chris Lehane, rapportées par Bloomberg News le 15 septembre. La coordination entre les trois éminents développeurs de modèles de fondation souligne un rare point d'alignement technique entre de féroces concurrents qui contrôlent les principaux systèmes logiciels génératifs à l'échelle mondiale. Cet effort de collaboration intervient alors que des autorités de régulation, des agences de sécurité nationale et des chercheurs indépendants appellent à l'échelle internationale à des critères de référence de sécurité normalisés, à des évaluations des risques transparentes et à des protocoles de test conjoints couvrant les modèles d'intelligence artificielle avancés.

## Faits marquants - OpenAI mène des travaux conjoints de sécurité de l'intelligence artificielle avec ses concurrents Anthropic et Google DeepMind d'Alphabet, selon des déclarations de l'entreprise rapportées par Bloomberg News. - L'initiative collaborative a été confirmée par Chris Lehane, responsable des politiques publiques mondiales d'OpenAI, dans des remarques publiées le 15 septembre. - Les trois entités développent collectivement les modèles d'IA de pointe leaders du marché, notamment la gamme ChatGPT d'OpenAI, la suite Claude d'Anthropic et les modèles Gemini de Google DeepMind. - La collaboration pré-concurrentielle du secteur dans la sécurité de l'IA se concentre généralement sur l'évaluation des capacités avancées, les tests contradictoires et l'atténuation des risques biologiques ou cybernétiques. - Cette initiative fait suite à des accords volontaires établis, notamment les engagements en matière de sécurité de l'IA pris auprès de la Maison-Blanche par les principaux développeurs en juillet 2023 et les sommets internationaux ultérieurs.

## Ce qui s'est passé Le développeur d'intelligence artificielle OpenAI s'associe à ses rivaux commerciaux Anthropic et Google DeepMind d'Alphabet sur des initiatives de sécurité, selon des commentaires faits par le responsable des politiques publiques mondiales d'OpenAI, Chris Lehane, et rapportés par Bloomberg News.

Alors que les pressions concurrentielles entre les trois acteurs se sont rapidement intensifiées dans les logiciels d'entreprise, les outils pour développeurs et les applications grand public, les entreprises cherchent un terrain d'entente sur les mécanismes techniques de sécurité. Selon des informations publiées par Bloomberg News et diffusées par Reuters, Chris Lehane a précisé qu'OpenAI travaille activement aux côtés d'Anthropic et de Google DeepMind pour répondre aux préoccupations de sécurité communes inhérentes au développement d'une intelligence artificielle à hautes capacités.

Cette annonce reflète une pratique croissante au sein du secteur des hautes technologies, où les concurrents commerciaux établissent des relations de travail pré-concurrentielles sur les normes de sûreté, de sécurité et d'interopérabilité, tout en continuant à se livrer une concurrence féroce sur les fonctionnalités des produits, les performances des modèles et la commercialisation. L'alignement pré-concurrentiel permet aux entités de partager des méthodologies techniques pour mesurer les risques liés aux modèles — tels que le désalignement accidentel, l'utilisation abusive lors d'opérations cybernétiques ou la génération de matériels biologiques dangereux — sans renoncer à la propriété intellectuelle exclusive liée aux architectures de modèles de base ou aux paramètres d'entraînement.

Bien que les modalités opérationnelles précises de la collaboration actuelle n'aient pas été entièrement détaillées dans le rapport initial, les déclarations de Chris Lehane confirment que le dialogue et les groupes de travail partagés sont activement engagés entre les équipes chargées des politiques publiques et de la sécurité technique des trois organisations.

## Pourquoi c'est important L'établissement de canaux de sécurité collaboratifs entre OpenAI, Anthropic et Google DeepMind comporte des implications majeures pour la gouvernance technologique, les achats d'entreprise et les cadres réglementaires mondiaux. Ensemble, ces trois organisations représentent la grande majorité des parts de marché et du leadership technique dans le déploiement de l'IA générative de pointe.

Premièrement, la normalisation des évaluations de sécurité entre des architectures concurrentes évite une « course vers le bas » destructrice. Dans des courses technologiques rapides, les entreprises font face à des incitations commerciales pour accélérer leurs calendriers de lancement, risquant ainsi de raccourcir les périodes de tests de sécurité. En coordonnant les métriques d'évaluation et les normes de sécurité, les principaux leaders du marché établissent un niveau de référence pour un déploiement responsable, ce qui réduit la pression concurrentielle visant à contourner la validation de la sécurité.

Deuxièmement, des définitions de sécurité unifiées fournissent une orientation cruciale pour les législateurs mondiaux et les organismes d'application des politiques. Les organismes de régulation — notamment l'AI Safety Institute des États-Unis hébergé au sein du National Institute of Standards and Technology (NIST), le Bureau de l'IA de l'Union européenne et l'AI Safety Institute du Royaume-Uni — s'appuient fortement sur les contributions techniques des développeurs de pointe. Des cadres cohérents émanant des trois principaux développeurs réduisent la fragmentation réglementaire et simplifient les exigences de conformité pour les entreprises commerciales intégrant des outils d'IA dans la finance, la santé et les infrastructures critiques.

Enfin, les efforts conjoints en matière de sécurité renforcent la confiance du public et des institutions dans les outils génératifs. À mesure que les entreprises et les institutions du secteur public déploient des grands modèles de langage et des agents autonomes dans des flux de travail sensibles, des normes de sécurité vérifiables et des protocoles d'évaluation contradictoire (« red-teaming ») indépendants deviennent des prérequis obligatoires pour une adoption généralisée.

## Contexte Le paysage de la sécurité de l'intelligence artificielle a évolué rapidement au rythme de l'augmentation des capacités des modèles ces dernières années. OpenAI, fondée en 2015 en tant que laboratoire de recherche à but non lucratif avant de créer une entité commerciale à profits limités, a fait entrer l'IA générative dans le grand public mondial avec la sortie publique de ChatGPT en novembre 2022. La croissance rapide de l'entreprise et l'évolution de sa structure de gouvernance d'entreprise ont auparavant suscité des débats internes concernant l'équilibre entre le déploiement commercial rapide et la recherche en matière de sécurité.

Anthropic a été créée en 2021 par d'anciens responsables de recherche d'OpenAI, notamment les frère et sœur Dario Amodei et Daniela Amodei, qui ont quitté OpenAI spécifiquement pour fonder une organisation axée principalement sur l'alignement de l'IA, la recherche sur la sécurité et le contrôle des systèmes. Anthropic a développé la gamme de modèles de langage Claude et a fait figure de pionnier dans des techniques de sécurité architecturales telles que l'« IA constitutionnelle » (« Constitutional AI »), qui entraîne les modèles à respecter un ensemble explicite de principes éthiques lors du réglage fin.

Google DeepMind représente le pôle de recherche en IA consolidé d'Alphabet Inc. Formée lors du rachat par Google en 2014 de la société londonienne DeepMind, puis de sa fusion en avril 2023 avec la division Google Brain, l'entité est dirigée par Demis Hassabis. Google DeepMind a constantly mis l'accent sur la sécurité fondamentale de l'IA, la recherche publiable sur l'alignement et les applications scientifiques de l'apprentissage profond, parallèlement à sa famille de modèles commerciaux Gemini.

La coordination de la sécurité à l'échelle du secteur a commencé à se formaliser mi-2023. En juillet 2023, sept grandes entreprises de l'IA — dont OpenAI, Anthropic, Google et Microsoft — ont signé des engagements volontaires à la Maison-Blanche pour se soumettre à des tests de sécurité externes, apposer des filigranes sur les contenus synthétiques et signaler publiquement les capacités et les défauts de leurs modèles. Peu après, en juillet 2023, OpenAI, Anthropic, Google et Microsoft ont lancé le Frontier Model Forum, un organisme industriel créé pour promouvoir le développement sûr et responsable de modèles d'IA de pointe.

Les gouvernements mondiaux ont simultanément renforcé leur surveillance formelle. Le Royaume-Uni a accueilli le premier Sommet international sur la sécurité de l'IA à Bletchley Park en novembre 2023, qui a abouti à la Déclaration de Bletchley signée par 28 nations. L'Union européenne a formellement promulgated sa loi globale sur l'IA (AI Act) en 2024, imposant des obligations graduelles de sécurité et de déclaration aux développeurs de modèles d'IA à usage général à fort impact.

## Réactions À la suite des informations rapportant les déclarations de Chris Lehane, les analystes du secteur technologique, les chercheurs en politiques publiques et les organismes de surveillance gouvernementaux observent la manière dont cet effort conjoint se tradira par des pratiques de sécurité vérifiables.

Bien que ni Anthropic ni Google DeepMind n'aient immédiatement publié de déclarations publiques distinctes confirmant de nouvelles initiatives conjointes spécifiques au-delà des forums sectoriels existants, les régulateurs accueillent généralement avec satisfaction la coordination technique entre les leaders du marché. Des responsables d'organismes gouvernementaux de sécurité, notamment les AI Safety Institutes américain et britannique, encouragent régulièrement les laboratoires de pointe à partager leurs méthodologies d'évaluation contradictoire, leurs évaluations des risques extrêmes et la divulgation des vulnérabilités.

En revanche, les organisations de la société civile, les éthiciens universitaires et les défenseurs des logiciels open source maintiennent souvent une position prudente à l'égard des accords d'autorégulation entre les acteurs dominants du secteur. Les critiques soulignent fréquemment que les coalitions volontaires de sécurité menées par les laboratoires doivent rester transparentes et soumises à des audits tiers indépendants pour éviter de fonctionner comme des mécanismes de capture réglementaire ou de concentration de marché anticoncurrentielle. Les autorités de la concurrence aux États-Unis comme en Europe maintiennent également une surveillance stricte pour s'assurer qu'une coordination légitime de sécurité pré-concurrentielle ne dégénère pas en collusion commerciale non autorisée ou en partage de marché.

## Ce que nous ne savons pas encore Malgré la confirmation d'une collaboration en matière de sécurité par le responsable des politiques publiques mondiales d'OpenAI, plusieurs détails techniques et structurels restent non clarifiés dans les informations disponibles : - La structure organisationnelle exacte hébergeant cette collaboration — en particulier si ces travaux se déroulent au sein de l'existant Frontier Model Forum, sous les auspices des AI Safety Institutes nationaux ou via un nouveau cadre de travail dédié. - La portée précise du partage technique, notamment pour savoir si les participants partagent des jeux de données d'évaluation, des résultats d'évaluation contradictoire, des poids de modèles ou des outils de test spécialisés. - Le fait de savoir si les résultats de ces évaluations de sécurité conjointes seront rendus accessibles aux chercheurs universitaires indépendants et aux développeurs open source, ou s'ils resteront propriétaires entre les entités participantes. - L'implication d'autres grands développeurs de modèles de fondation d'IA, tels que Meta, Microsoft, Amazon ou des développeurs européens comme Mistral AI.

La résolution de ces questions ouvertes déterminera si cet effort conjoint de sécurité représente une avancée significative dans la normalisation intersectorielle ou un simple dialogue exécutif de routine.

## À surveiller Pour évaluer la trajectoire future de cette collaboration intersectorielle, les principaux développements à surveiller comprennent : - Des publications techniques conjointes formelles ou des articles de recherche publics coédités par des chercheurs d'OpenAI, d'Anthropic et de Google DeepMind détaillant des critères d'évaluation ou des conclusions de sécurité partagés. - Des annonces de l'AI Safety Institute américain ou de l'AI Safety Institute britannique concernant des évaluations normalisées dirigées par le gouvernement et élaborées en partenariat avec les trois laboratoires. - Des sommets gouvernementaux internationaux à venir sur la gouvernance de l'intelligence artificielle, où des engagements conjoints en matière de sécurité ou des cadres de risques normalisés pourraient être présentés. - Des audits algorithmiques tiers et des rapports d'évaluation contradictoire publiés avant le déploiement de modèles de pointe de prochaine génération par l'un des trois développeurs participants.

Ce rapport est basé sur des informations originales publiées par Bloomberg News et diffusées par Reuters, telles que rapportées par The Star.