El personal de OpenAI advirtió a la junta directiva sobre laxas ciberdefensas antes del debut de ChatGPT, según revelan informes

SAN FRANCISCO — El personal de OpenAI advirtió a los altos ejecutivos y a la junta directiva de la empresa a lo largo de varios años de que las protecciones internas de ciberseguridad eran deficientes, lo que dejaba el código de software propietario accesible a actores externos mucho antes del debut público de ChatGPT a finales de 2022, según información reportada por Ana Maria Constantin. Las advertencias internas, que se prolongaron durante varios años mientras el desarrollador de inteligencia artificial con sede en San Francisco pasaba de ser un colectivo boutique de investigación a una potencia comercial multimillonaria, revelaron profundas inquietudes entre el personal técnico sobre quién podía ver, modificar o extraer las bases de código fundamentales de la firma.

## Key facts

- El personal técnico notificó reiteradamente a la dirección ejecutiva y a la junta directiva de OpenAI que las salvaguardas internas de seguridad eran inadecuadas para proteger los sistemas centrales. - Las advertencias de los empleados tuvieron lugar a lo largo de un periodo de varios años previo al lanzamiento público de ChatGPT en noviembre de 2022. - Las comunicaciones internas destacaron que los porosos controles de acceso dejaban el código de los modelos propietarios de OpenAI al alcance potencial de terceros externos no autorizados. - Las revelaciones sitúan las vulnerabilidades de seguridad en un periodo en el que la organización operaba bajo un espíritu de código abierto antes de comercializar sus modelos generativos. - Las revelaciones surgen en medio de un creciente escrutinio global sobre las implicaciones para la seguridad nacional de los pesos y algoritmos fuente de inteligencia artificial de vanguardia.

## What happened

Según información reportada por Ana Maria Constantin, el personal de OpenAI elevó de manera sistemática preocupaciones técnicas a la alta dirección y a la junta de gobierno de la organización, documentando vulnerabilidades en la forma en que la firma protegía su propiedad intelectual y su infraestructura de ingeniería. Las revelaciones destacaron que los controles administrativos básicos, las defensas perimetrales y los marcos de asignación de permisos no eran lo suficientemente robustos para restringir intrusiones externas o impedir que actores no autorizados accedieran a repositorios vitales.

Estas advertencias se produjeron durante una ventana crucial en el desarrollo de OpenAI, previa al lanzamiento de ChatGPT el 30 de noviembre de 2022. Durante esta fase, los equipos de ingeniería estaban ensamblando las canalizaciones de datos, los pesos de los modelos y la infraestructura que respaldaba la serie Generative Pre-trained Transformer. Miembros del personal advirtieron de que las arquitecturas internas de la compañía no reflejaban la postura defensiva requerida para tecnologías con profundas implicaciones comerciales y geopolíticas.

Lejos de ser un descuido operativo aislado, los empleados describieron un entorno donde la velocidad de investigación y el despliegue de modelos tenían prioridad constante sobre los filtros administrativos. Los permisos internos estaban estructurados de forma laxa, otorgando un amplio acceso a repositorios que contenían código de entrenamiento de modelos propietarios, scripts de despliegue y planos arquitectónicos. El personal técnico advirtió a los líderes corporativos de que, si un adversario o un tercero atacaba la red de la compañía, la falta de entornos segmentados y de credenciales estrictas ofrecería una resistencia mínima frente al compromiso de sistemas sensibles.

## Why it matters

La revelación de que OpenAI operó con controles internos frágiles durante la incubación de sus modelos más influyentes conlleva graves ramificaciones para el gobierno corporativo, los clientes empresariales y los responsables de formular políticas de seguridad nacional. OpenAI no es un mero proveedor de software; sus sistemas sustentan operaciones empresariales en los sectores de salud, finanzas, defensa e infraestructura pública. Cuando una entidad que alberga algunos de los pesos algorítmicos más capaces del mundo no implementa una seguridad operativa básica, el radio de impacto de una posible brecha se extiende mucho más allá de las pérdidas financieras corporativas.

Desde una perspectiva de seguridad nacional, los modelos de IA líderes representan tecnología de doble uso. Los pesos avanzados y el código arquitectónico pueden acelerar operaciones cibernéticas ofensivas, evaluaciones de diseño biológico y campañas de desinformación. Las agencias de inteligencia respaldadas por Estados, en particular en jurisdicciones sujetas a controles de exportación occidentales como China, Rusia, Irán y Corea del Norte, consideran los parámetros de los modelos de frontera como objetivos prioritarios para el espionaje industrial. Si el código subyacente se almacenaba en entornos con escasa supervisión, actores extranjeros no autorizados podrían haber tenido ventanas de oportunidad para examinar o sustraer propiedad intelectual fundamental.

Para las empresas comerciales que dependen de OpenAI mediante interfaces de programación de aplicaciones (APIs) y acuerdos empresariales, la revelación socava las garantías relativas a la contención de datos y la integridad de la cadena de suministro. Los responsables de cumplimiento corporativo exigen una verificación rigurosa de que los entornos de los proveedores se ajusten a los estándares empresariales, como las certificaciones SOC 2 Type II y los controles ISO/IEC 27001. La evidencia de que la dirección desatendió persistentes alertas internas sobre controles perimetrales intensificará la presión de compradores corporativos, socios comerciales y adversarios legales que deben asegurarse de que sus entradas propietarias y datos de entrenamiento estén protegidos contra exposiciones colaterales.

## The background

OpenAI se fundó en diciembre de 2015 como un laboratorio de investigación de inteligencia artificial sin fines de lucro, creado por figuras como Sam Altman, Elon Musk, Greg Brockman, Ilya Sutskever y Wojciech Zaremba. La carta fundacional inicial comprometía a la organización a avanzar en la inteligencia digital en beneficio de la humanidad, enfatizando explícitamente la transparencia, la publicación de código abierto y la colaboración. En sus primeras iteraciones, compartir artículos de investigación, repositorios de GitHub y pesos abiertos se consideraba central para el espíritu institucional, lo que creó una cultura de ingeniería que priorizaba el intercambio comunitario por encima del secreto corporativo.

Esa postura fundacional cambió drásticamente en marzo de 2019, cuando la organización se reestructuró para introducir una subsidiaria comercial de "beneficios limitados" (capped-profit), OpenAI LP, diseñada para atraer el capital sustancial necesario para alquilar clústeres de supercomputación de nivel empresarial. Ese mismo año, Microsoft Corporation comprometió una inversión inicial de $1 billion, una alianza que se expandió en unos $10 billion adicionales a principios de 2023, según se informó. A medida que OpenAI transitaba hacia la competencia comercial frente a Google de Alphabet y Anthropic, comenzó a retener el código fuente, los pesos de los modelos y las arquitecturas específicas de conjuntos de datos, culminando en el lanzamiento cerrado de GPT-4 en marzo de 2023.

Sin embargo, la infraestructura técnica no se transforma instantáneamente a la par de las reestructuraciones legales corporativas. Mientras el posicionamiento externo de OpenAI se transformaba en el de un gigante comercial hermético, la gestión interna de accesos a menudo se quedaba rezagada respecto al crecimiento corporativo. Desajustes de trayectoria similares han ocurrido en todo el sector de rápido crecimiento de Silicon Valley. Por ejemplo, el exjefe de seguridad de Twitter, Peiter Zatko, presentó una denuncia de denunciante ante la U.S. Securities and Exchange Commission (SEC) en 2022 en la que detallaba cómo miles de ingenieros conservaban acceso irrestricto a sistemas de producción sensibles y controles centrales de la plataforma sin un registro adecuado.

Los entornos regulatorios se han endurecido significativamente en respuesta a estos puntos ciegos en todo el sector. En octubre de 2023, el presidente de EE. UU., Joe Biden, emitió la Executive Order 14110 on Safe, Secure, and Trustworthy Artificial Intelligence, invocando la Defense Production Act para obligar a los desarrolladores de modelos de frontera a compartir con el gobierno federal resultados de seguridad de pruebas de penetración (red-teaming) y medidas de ciberseguridad. Al mismo tiempo, la Cybersecurity and Infrastructure Security Agency (CISA) y socios internacionales publicaron directrices conjuntas instando a los desarrolladores de inteligencia artificial a adoptar principios de seguridad desde el diseño, identificando la gestión de amenazas internas y los controles de acceso basados en roles como requisitos básicos no negociables.

## Reaction

Ni OpenAI ni su junta de gobierno han emitido respuestas corporativas formales sobre la información específica reportada por Ana Maria Constantin. En casos anteriores relacionados con críticas operativas, los portavoces de OpenAI han señalado de manera general sus continuas inversiones en ingeniería de seguridad de nivel empresarial, programas de recompensas por errores (bug bounty) y mecanismos de auditoría interna, aunque han declinado de manera habitual debatir públicamente las advertencias históricas de sus empleados.

Se espera que los comités del Congreso centrados en seguridad nacional, inteligencia y comercio examinen estas revelaciones de cerca. El U.S. Senate Select Committee on Intelligence y el House Committee on Science, Space, and Technology han examinado de manera creciente cómo los desarrolladores de IA de frontera defienden sus activos digitales contra el espionaje extranjero. Dadas las investigaciones legislativas existentes sobre políticas de denunciantes, contención tecnológica y controles de exportación sobre cómputo avanzado, es probable que los legisladores soliciten sesiones informativas formales a la cúpula ejecutiva para determinar si algún código propietario se vio activamente comprometido durante el periodo en cuestión.

Colegas de la industria e investigadores de ciberseguridad han expresado una constante preocupación respecto a la tensión entre la rápida comercialización de la IA generativa y el rigor defensivo. Se prevé que grupos de la sociedad civil centrados en la transparencia algorítmica y la responsabilidad corporativa aprovechen las revelaciones para exigir auditorías externas independientes y legalmente vinculantes de la infraestructura corporativa de IA de frontera, argumentando que la autorregulación comercial fracasa cuando los plazos de entrega de productos chocan con la higiene de la infraestructura.

## What we don't know yet

Varios elementos críticos de la situación siguen sin verificarse. No se ha determinado públicamente si actores externos de amenazas o grupos de amenazas persistentes avanzadas (APT) patrocinados por Estados lograron alguna vez acceder, ver o extraer con éxito las bases de código de OpenAI como resultado de estas vulnerabilidades documentadas. Demostrar que los controles de acceso eran débiles no confirma que se haya producido una intrusión activa, lo que deja una brecha significativa entre una vulnerabilidad demostrable y una filtración tangible.

Además, se desconoce la identidad precisa de los ejecutivos y miembros de la junta que recibieron estas advertencias, así como la naturaleza de sus respuestas. Las informaciones no detallan si la dirección desestimó formalmente las advertencias técnicas, si asignó presupuestos de ingeniería defensiva que resultaron insuficientes o si inició remodelaciones correctivas que se retrasaron debido a prioridades de ingeniería contrapuestas. De manera crucial, sigue sin conocerse el alcance de las bases de código afectadas: si se limitaron a entornos de prueba experimentales o si abarcaron el código central de entrenamiento de transformers y las configuraciones de hiperparámetros. Aclarar si estas deficiencias se subsanaron antes de las posteriores alianzas comerciales con clientes empresariales resulta vital para evaluar el riesgo operativo continuo.

## What to watch

La trayectoria de esta revelación depende de varios puntos de control regulatorios e institucionales inminentes. Habrá que estar atentos a si exempleados presentan denuncias formales de denunciantes ante autoridades federales, como la Federal Trade Commission (FTC) o la SEC, alegando tergiversaciones de los controles de seguridad corporativa ante inversores o consumidores. La SEC aplica normas que regulan cómo las entidades que cotizan en bolsa y los grandes receptores de inversión gestionan los riesgos de ciberseguridad y la supervisión de sus juntas directivas.

En Washington, los observadores deberán seguir de cerca si los órganos de supervisión del Congreso emiten solicitudes formales de información o llaman a declarar a ejecutivos de OpenAI sobre las defensas de su infraestructura y la seguridad de los modelos de doble uso. Además, cualquier cambio de postura pública por parte de los principales patrocinadores institucionales, en particular Microsoft, servirá como indicador de la reacción empresarial; los socios corporativos podrían exigir pruebas de penetración independientes realizadas por terceros y auditorías arquitectónicas administrativas obligatorias.

Por último, el sector técnico seguirá de cerca las actualizaciones de las certificaciones de cumplimiento públicas y los informes técnicos de seguridad de OpenAI. El grado en que la empresa detalle los cambios en sus marcos de gestión de identidades y accesos (IAM), controles basados en roles e implementaciones de confianza cero (zero-trust) revelará si las prácticas organizativas del pasado se han desmantelado de manera concluyente.

Este informe se basa en la cobertura original de Ana Maria Constantin.