OpenAI colabora con Anthropic y Google DeepMind en marcos de seguridad para la IA

OpenAI se ha involucrado en iniciativas conjuntas de seguridad para la inteligencia artificial junto a sus principales rivales comerciales, Anthropic y Google DeepMind (de Alphabet), según declaraciones del director global de Políticas de OpenAI, Chris Lehane, reportadas por Bloomberg News el 15 de septiembre. La coordinación entre los tres destacados desarrolladores de modelos fundacionales pone de relieve un inusual punto de alineación técnica entre encarnizados competidores que controlan los principales sistemas de software generativo a nivel mundial. El esfuerzo colaborativo se produce en medio de llamamientos internacionales por parte de autoridades reguladoras, agencias de seguridad nacional e investigadores independientes en favor de puntos de referencia de seguridad estandarizados, evaluaciones de riesgo transparentes y protocolos de prueba conjuntos para modelos avanzados de inteligencia artificial.

## Datos clave - OpenAI está llevando a cabo trabajos conjuntos de seguridad para la inteligencia artificial con sus competidores Anthropic y Google DeepMind, de Alphabet, según declaraciones de la empresa reportadas por Bloomberg News. - La iniciativa de colaboración fue confirmada por el director global de Políticas de OpenAI, Chris Lehane, en declaraciones publicadas el 15 de septiembre. - Las tres entidades desarrollan colectivamente los modelos de IA de frontera líderes del mercado, incluyendo la serie ChatGPT de OpenAI, la suite Claude de Anthropic y los modelos Gemini de Google DeepMind. - La colaboración industrial precompetitiva en materia de seguridad para la IA suele centrarse en evaluaciones de capacidades avanzadas, pruebas de confrontación (adversarial testing) y mitigaciones de riesgos biológicos o cibernéticos. - La medida sigue a acuerdos voluntarios ya establecidos, incluidos los compromisos de seguridad para la IA de la Casa Blanca asumidos por los principales desarrolladores en julio de 2023 y las cumbres internacionales posteriores.

## Qué sucedió El desarrollador de inteligencia artificial OpenAI se ha asociado con sus rivales corporativos Anthropic y Google DeepMind, de Alphabet, en iniciativas de seguridad, según los comentarios realizados por el director global de Políticas de OpenAI, Chris Lehane, y reportados por Bloomberg News.

Aunque las presiones competitivas entre el trío se han intensificado rápidamente en el ámbito del software empresarial, las herramientas de desarrollo y las aplicaciones de consumo, las empresas están buscando puntos en común sobre los mecanismos de seguridad técnica. Según las informaciones publicadas por Bloomberg News y distribuidas por Reuters, Lehane señaló que OpenAI está trabajando activamente junto a Anthropic y Google DeepMind para abordar las preocupaciones de seguridad compartidas e inherentes a la creación de inteligencia artificial de alta capacidad.

El anuncio refleja una práctica creciente dentro del sector de la alta tecnología en la que los competidores comerciales establecen relaciones de trabajo precompetitivas sobre estándares de seguridad, protección e interoperabilidad, al tiempo que continúan compitiendo agresivamente en características de producto, rendimiento de modelos y comercialización. La alineación precompetitiva permite a las entidades compartir metodologías técnicas para medir los riesgos de los modelos —como la desalineación accidental, el uso indebido en operaciones cibernéticas o la generación de materiales biológicos peligrosos— sin renunciar a la propiedad intelectual relacionada con las arquitecturas básicas del modelo o los parámetros de entrenamiento.

Aunque la mecánica operativa específica de la colaboración actual no se detalló por completo en el informe inicial, las declaraciones de Lehane confirman que el diálogo y los flujos de trabajo compartidos se están llevando a cabo de forma activa entre los equipos de políticas y seguridad técnica de las tres organizaciones.

## Por qué es importante El establecimiento de canales colaborativos de seguridad entre OpenAI, Anthropic y Google DeepMind conlleva implicaciones significativas para la gobernanza tecnológica, la contratación empresarial y los marcos regulatorios globales. Juntas, estas tres organizaciones representan la abrumadora mayoría de la cuota de mercado y el liderazgo técnico en el despliegue de IA generativa de frontera.

En primer lugar, estandarizar las evaluaciones de seguridad entre arquitecturas competidoras evita una destructiva «carrera a la baja». En carreras tecnológicas vertiginosas, las empresas individuales se enfrentan a incentivos comerciales para acelerar sus calendarios de lanzamiento, lo que podría acortar los periodos de prueba de seguridad. Al coordinar las métricas de evaluación y los estándares de seguridad, los principales líderes del mercado establecen una base de despliegue responsable que reduce la presión competitiva para eludir la validación de seguridad.

En segundo lugar, unas definiciones de seguridad unificadas proporcionan una orientación crucial para legisladores y organismos de aplicación de políticas a nivel mundial. Las organizaciones reguladoras —incluido el Instituto de Seguridad de la IA de Estados Unidos, albergado en el Instituto Nacional de Estándares y Tecnología (NIST), la Oficina de IA de la Unión Europea y el Instituto de Seguridad de la IA del Reino Unido— dependen en gran medida de las aportaciones técnicas de los desarrolladores de frontera. Contar con marcos coherentes de los tres principales desarrolladores reduce la fragmentación regulatoria y simplifica las expectativas de cumplimiento para las empresas comerciales que integran herramientas de IA en finanzas, sanidad e infraestructuras críticas.

Por último, los esfuerzos conjuntos de seguridad aumentan la confianza pública e institucional en las herramientas generativas. A medida que las empresas y las instituciones del sector público despliegan modelos de lenguaje de gran tamaño y agentes autónomos en flujos de trabajo sensibles, los estándares de seguridad verificables y los protocolos independientes de simulación de amenazas (red-teaming) se convierten en requisitos previos obligatorios para una adopción generalizada.

## Antecedentes El panorama de la seguridad en la inteligencia artificial ha evolucionado rápidamente junto con el incremento de las capacidades de los modelos en los últimos años. OpenAI, fundada en 2015 como un laboratorio de investigación sin fines de lucro antes de crear una entidad comercial con límite de beneficios, llevó la IA generativa al conocimiento público generalizado con el lanzamiento público de ChatGPT en noviembre de 2022. El rápido crecimiento de la empresa y los cambios en su estructura de gobernanza corporativa suscitaron previamente debates internos sobre el equilibrio entre el despliegue comercial acelerado y la investigación sobre seguridad.

Anthropic fue fundada en 2021 por antiguos líderes de investigación de OpenAI, entre ellos los hermanos Dario Amodei y Daniela Amodei, quienes abandonaron OpenAI específicamente para crear una organización centrada principalmente en la alineación de la IA, la investigación sobre seguridad y la capacidad de control del sistema (steerability). Anthropic desarrolló la serie de modelos de lenguaje Claude y fue pionera en técnicas de seguridad arquitectónica como la «IA Constitucional», que entrena a los modelos para que se adhieran a conjuntos explícitos de principios éticos durante el ajuste fino (fine-tuning).

Google DeepMind representa el centro neurálgico consolidado de investigación en IA de Alphabet Inc. Creada a través de la adquisición por parte de Google en 2014 de DeepMind, con sede en Londres, y su posterior fusión en abril de 2023 con la división Google Brain, la entidad está dirigida por Demis Hassabis. Google DeepMind ha destacado constantemente por su énfasis en la seguridad fundamental de la IA, la investigación publicable sobre alineación y las aplicaciones científicas del aprendizaje profundo, junto con su familia comercial de modelos Gemini.

La coordinación de seguridad a escala sectorial comenzó a formalizarse a mediados de 2023. En julio de 2023, siete empresas líderes en IA —incluidas OpenAI, Anthropic, Google y Microsoft— firmaron compromisos voluntarios en la Casa Blanca para someterse a pruebas de seguridad externas, añadir marcas de agua al contenido sintético y reportar públicamente las capacidades y fallos de los modelos. Poco después, en julio de 2023, OpenAI, Anthropic, Google y Microsoft lanzaron el Frontier Model Forum, un organismo industrial creado para promover el desarrollo seguro y responsable de modelos de IA de frontera.

De forma paralela, los gobiernos de todo el mundo han intensificado la supervisión formal. El Reino Unido albergó la Cumbre Internacional inaugural sobre Seguridad de la IA en Bletchley Park en noviembre de 2023, que dio lugar a la Declaración de Bletchley firmada por 28 naciones. La Unión Europea promulgó formalmente su exhaustiva Ley de IA (AI Act) en 2024, imponiendo obligaciones escalonadas de seguridad y notificación a los desarrolladores de modelos de IA de uso general de alto impacto.

## Reacciones Tras la difusión de los comentarios de Lehane, analistas del sector tecnológico, investigadores de políticas y organismos gubernamentales de supervisión están observando cómo se traducirá este esfuerzo conjunto en prácticas de seguridad verificables.

Aunque ni Anthropic ni Google DeepMind emitieron inmediatamente declaraciones públicas independientes que confirmaran iniciativas conjuntas específicas más allá de los foros sectoriales existentes, los reguladores suelen acoger con satisfacción la coordinación técnica entre los líderes del mercado. Funcionarios de organismos gubernamentales de seguridad, incluidos los Institutos de Seguridad de la IA de EE. UU. y del Reino Unido, han animado sistemáticamente a los laboratorios de frontera a compartir metodologías de red-teaming (simulación de ataques), evaluaciones de riesgos extremos y divulgación de vulnerabilidades.

Por el contrario, las organizaciones de la sociedad civil, los especialistas en ética académica y los defensores del software de código abierto suelen mantener una postura cautelosa ante los acuerdos de autorregulación entre los actores corporativos dominantes. Con frecuencia, los críticos enfatizan que las coaliciones voluntarias de seguridad lideradas por laboratorios deben mantenerse transparentes y sujetas a auditorías independientes de terceros para evitar actuar como mecanismos de captura regulatoria o concentración anticompetitiva del mercado. Los reguladores de la competencia tanto en EE. UU. como en Europa también mantienen una estrecha supervisión para garantizar que la coordinación legítima de seguridad precompetitiva no se traslade a colusiones comerciales no autorizadas o al reparto del mercado.

## Lo que aún no se sabe A pesar de la confirmación de la colaboración en materia de seguridad por parte del director global de Políticas de OpenAI, varios detalles técnicos y estructurales siguen sin aclararse en las informaciones disponibles: - La estructura organizativa exacta en la que se enmarca la colaboración: específicamente si este trabajo se lleva a cabo dentro del Frontier Model Forum existente, bajo el auspicio de los Institutos nacionales de Seguridad de la IA o a través de un nuevo marco de trabajo dedicado. - El alcance preciso del intercambio técnico, incluyendo si los participantes están compartiendo conjuntos de datos de evaluación, hallazgos de red-teaming, pesos de modelos o herramientas de prueba especializadas. - Si los resultados de estas evaluaciones de seguridad conjuntas se pondrán a disposición de investigadores académicos independientes y desarrolladores de código abierto, o si se mantendrán como propiedad exclusiva de las entidades participantes. - La participación de otros grandes desarrolladores de modelos fundacionales de IA, como Meta, Microsoft, Amazon o desarrolladores europeos como Mistral AI.

La resolución de estas cuestiones pendientes determinará si el esfuerzo conjunto de seguridad representa un avance significativo en la estandarización intersectorial o un diálogo ejecutivo rutinario.

## Aspectos a seguir Al evaluar la trayectoria futura de esta colaboración intersectorial, los acontecimientos clave que habrá que seguir incluyen: - Publicaciones técnicas conjuntas formales o trabajos de investigación públicos redactados en coautoría por investigadores de OpenAI, Anthropic y Google DeepMind detallando puntos de referencia de evaluación o hallazgos de seguridad compartidos. - Anuncios del Instituto de Seguridad de la IA de EE. UU. o del Instituto de Seguridad de la IA del Reino Unido con respecto a evaluaciones estandarizadas promovidas por los gobiernos y desarrolladas en colaboración con los tres laboratorios. - Próximas cumbres gubernamentales internacionales sobre gobernanza de la inteligencia artificial en las que podrían presentarse compromisos conjuntos de seguridad o marcos de riesgo estandarizados. - Auditorías algorítmicas de terceros e informes de red-teaming publicados antes del despliegue de modelos de frontera de próxima generación por parte de cualquiera de los tres desarrolladores participantes.

Este informe se basa en la cobertura original publicada por Bloomberg News y distribuida por Reuters, según lo informado por The Star.