Funcionários da OpenAI alertaram conselho sobre defesas cibernéticas frágeis antes da estreia do ChatGPT, revelam reportagens

SAN FRANCISCO — Funcionários da OpenAI alertaram os principais executivos e o conselho de administração da empresa ao longo de vários anos de que as proteções internas de segurança cibernética eram deficientes, deixando o código de software proprietário acessível a agentes externos bem antes da estreia pública do ChatGPT no final de 2022, de acordo com uma reportagem de Ana Maria Constantin. Os alertas internos, que se estenderam por vários anos enquanto a desenvolvedora de inteligência artificial sediada em San Francisco fazia a transição de um coletivo de pesquisa de nicho para uma potência comercial multibilionária, revelaram profundas preocupações entre a equipe técnica sobre quem poderia visualizar, modificar ou exfiltrar as bases de código fundamentais da empresa.

## Key facts

- A equipe técnica notificou repetidamente a liderança executiva e o conselho de administração da OpenAI de que as salvaguardas internas de segurança eram inadequadas para proteger os sistemas centrais. - Os alertas dos funcionários ocorreram ao longo de um período de vários anos que antecedeu o lançamento público do ChatGPT em novembro de 2022. - Comunicações internas destacaram que controles de acesso porosos deixavam o código do modelo proprietário da OpenAI ao alcance potencial de partes externas não autorizadas. - As divulgações remontam as vulnerabilidades de segurança a um período em que a organização operava sob uma filosofia de código aberto antes de comercializar seus modelos generativos. - As revelações surgem em meio a um escrutínio global cada vez mais intenso sobre as implicações de segurança nacional dos pesos e algoritmos-fonte de inteligência artificial de ponta.

## What happened

De acordo com a reportagem de Ana Maria Constantin, funcionários da OpenAI escalaram sistematicamente preocupações técnicas à alta administração e ao conselho administrativo da organização, documentando vulnerabilidades na forma como a empresa protegia sua propriedade intelectual e infraestrutura de engenharia. As divulgações destacaram que controles administrativos básicos, defesas de perímetro e estruturas de permissão não eram robustos o suficiente para restringir invasões externas ou impedir que agentes não autorizados acessassem repositórios vitais.

Esses alertas ocorreram durante uma janela crucial no desenvolvimento da OpenAI, antes do lançamento do ChatGPT em 30 de novembro de 2022. Durante essa fase, as equipes de engenharia estavam estruturando os pipelines de dados, os pesos do modelo e a infraestrutura que sustentavam a série Generative Pre-trained Transformer. Membros da equipe alertaram que as arquiteturas internas da empresa não refletiam a postura defensiva necessária para tecnologias com profundas implicações comerciais e geopolíticas.

Em vez de uma falha operacional isolada, os funcionários descreveram um ambiente em que a velocidade da pesquisa e da implantação de modelos tinha prioridade constante sobre barreiras administrativas. As permissões internas eram estruturadas de forma frouxa, concedendo amplo acesso a repositórios que continham código proprietário de treinamento de modelos, scripts de implantação e projetos arquitetônicos. A equipe técnica alertou os líderes corporativos de que, caso um adversário ou terceiro visasse a rede da empresa, a falta de ambientes segmentados e de credenciamento rigoroso ofereceria resistência mínima contra o comprometimento de sistemas confidenciais.

## Why it matters

A revelação de que a OpenAI operava com controles internos frágeis durante a incubação de seus modelos mais influentes traz repercussões graves para a governança corporativa, clientes corporativos e formuladores de políticas de segurança nacional. A OpenAI não é apenas uma fornecedora de software; seus sistemas sustentam operações corporativas nos setores de saúde, finanças, defesa e infraestrutura pública. Quando uma entidade detentora de alguns dos pesos algorítmicos mais capazes do mundo falha em implementar segurança operacional básica, o raio de alcance de uma potencial violação se estende muito além das perdas financeiras corporativas.

Sob a perspectiva da segurança nacional, os principais modelos de IA representam tecnologia de uso duplo. Pesos avançados e códigos arquitetônicos podem acelerar operações cibernéticas ofensivas, avaliações de design biológico e campanhas de desinformação. Agências de inteligência estatais, particularmente em jurisdições sujeitas a controles de exportação ocidentais, como China, Rússia, Irã e Coreia do Norte, veem os parâmetros de modelos de fronteira como alvos primordiais para espionagem industrial. Se o código subjacente estivesse armazenado em ambientes frouxamente monitorados, agentes estrangeiros não autorizados podem ter tido janelas de oportunidade para examinar ou subtrair propriedade intelectual fundamental.

Para empresas comerciais que dependem da OpenAI por meio de interfaces de programação de aplicações (APIs) e acordos corporativos, a divulgação mina as garantias relativas à contenção de dados e à integridade da cadeia de suprimentos. Diretores de conformidade corporativa exigem verificação rigorosa de que os ambientes dos fornecedores atendem aos padrões empresariais, como certificações SOC 2 Type II e controles ISO/IEC 27001. A evidência de que a liderança negligenciou alertas internos persistentes sobre controles de perímetro intensificará a pressão de compradores corporativos, parceiros comerciais e adversários jurídicos que precisam garantir que seus dados de entrada e de treinamento proprietários estejam protegidos de exposição colateral.

## The background

A OpenAI foi criada em dezembro de 2015 como um laboratório de pesquisa de inteligência artificial sem fins lucrativos, fundado por figuras como Sam Altman, Elon Musk, Greg Brockman, Ilya Sutskever e Wojciech Zaremba. O estatuto inicial comprometia a organização a avançar a inteligência digital em benefício da humanidade, enfatizando explicitamente a transparência, a publicação de código aberto e a colaboração. Em suas primeiras fases, o compartilhamento de artigos de pesquisa, repositórios no GitHub e pesos abertos era considerado central para a filosofia institucional, criando uma cultura de engenharia que priorizava o compartilhamento comunitário em detrimento do sigilo corporativo.

Essa postura fundamental mudou dramaticamente em março de 2019, quando a organização se reestruturou para introduzir uma subsidiária comercial de "lucro limitado" ("capped-profit"), a OpenAI LP, projetada para atrair o capital substancial necessário para alugar clusters de supercomputação de nível corporativo. Naquele mesmo ano, a Microsoft Corporation comprometeu um investimento inicial de $1 billion, uma parceria que se expandiu em cerca de $10 billion no início de 2023. À medida que a OpenAI fazia a transição para a competição comercial contra o Google, da Alphabet, e a Anthropic, começou a reter o código-fonte, os pesos dos modelos e arquiteturas específicas de conjuntos de dados, culminando no lançamento fechado do GPT-4 em março de 2023.

No entanto, a infraestrutura técnica não se transforma instantaneamente junto com as reestruturações jurídicas corporativas. Embora o posicionamento externo da OpenAI tenha se transformado no de uma gigante comercial reservada, a gestão de acesso interno frequentemente ficava defasada em relação ao crescimento corporativo. Descompassos de trajetória semelhantes ocorreram em todo o setor de rápido crescimento do Vale do Silício. Por exemplo, o ex-chefe de segurança do Twitter Peiter Zatko apresentou uma denúncia de irregularidades (whistleblower) à U.S. Securities and Exchange Commission (SEC) em 2022, detalhando como milhares de engenheiros mantinham acesso irrestrito a sistemas de produção confidenciais e controles centrais da plataforma sem registro adequado de logs.

Os ambientes regulatórios se tornaram significativamente mais rígidos em resposta a esses pontos cegos de todo o setor. Em outubro de 2023, o presidente dos EUA, Joe Biden, emitiu a Executive Order 14110 sobre Inteligência Artificial Segura, Confiável e Fidedigna, invocando o Defense Production Act para obrigar desenvolvedores de modelos de fronteira a compartilhar resultados de segurança de testes de invasão ("red-teaming") e medidas de segurança cibernética com o governo federal. Concomitantemente, a Cybersecurity and Infrastructure Security Agency (CISA) e parceiros internacionais divulgaram diretrizes conjuntas instando os desenvolvedores de inteligência artificial a adotarem princípios de segurança desde a concepção ("secure-by-design"), identificando o gerenciamento de ameaças internas e os controles de acesso baseados em funções como parâmetros não negociáveis.

## Reaction

Respostas corporativas formais à reportagem específica de Ana Maria Constantin não foram divulgadas pela OpenAI ou por seu conselho administrativo. Em casos anteriores envolvendo críticas operacionais, os porta-vozes da OpenAI geralmente apontaram para seus investimentos contínuos em engenharia de segurança de nível corporativo, programas de recompensas por bugs ("bug bounty") e mecanismos de auditoria interna, embora tenham rotineiramente se recusado a debater publicamente alertas históricos de funcionários.

Comitês do Congresso com foco em segurança nacional, inteligência e comércio devem analisar essas divulgações minuciosamente. O U.S. Senate Select Committee on Intelligence e o House Committee on Science, Space, and Technology têm examinado cada vez mais como desenvolvedores de IA de fronteira defendem seus ativos digitais contra espionagem estrangeira. Dadas as investigações legislativas existentes sobre políticas de denúncias, contenção tecnológica e controles de exportação sobre computação avançada, é provável que os parlamentares solicitem reuniões informativas formais da liderança executiva para determinar se algum código proprietário foi ativamente comprometido durante o período em questão.

Pares do setor e pesquisadores de segurança cibernética expressaram constante preocupação quanto à tensão entre a rápida comercialização da IA generativa e o rigor defensivo. Grupos da sociedade civil focados em transparência algorítmica e responsabilidade corporativa devem usar as divulgações para exigir auditorias externas independentes e legalmente obrigatórias da infraestrutura corporativa de IA de fronteira, argumentando que a autorregulação comercial falha quando os prazos de lançamento de produtos entram em conflito com a higiene da infraestrutura.

## What we don't know yet

Diversos elementos críticos da situação permanecem não confirmados. Não foi estabelecido publicamente se agentes de ameaças externas ou grupos de ameaças persistentes avançadas (APT) patrocinados por Estados chegaram a acessar, visualizar ou exfiltrar com sucesso as bases de código da OpenAI como resultado dessas vulnerabilidades documentadas. Demonstrar que os controles de acesso eram fracos não confirma a ocorrência de uma invasão ativa, deixando uma lacuna significativa entre vulnerabilidade comprovável e violação tangível.

Além disso, a identidade exata dos executivos e membros do conselho que receberam esses alertas, juntamente com a natureza de suas respostas, não foi divulgada. A reportagem não detalha se a administração rejeitou formalmente os alertas técnicos, alocou orçamentos de engenharia defensiva que se mostraram insuficientes ou iniciou reformas corretivas que foram adiadas por prioridades de engenharia concorrentes. Crucialmente, a extensão das bases de código afetadas — se limitadas a estruturas de teste experimentais ou se abrangiam o código central de treinamento do transformer e configurações de hiperparâmetros — permanece desconhecida. Esclarecer se essas deficiências foram corrigidas antes de parcerias comerciais subsequentes com clientes corporativos é vital para avaliar o risco operacional contínuo.

## What to watch

A trajetória dessa revelação depende de vários pontos de controle regulatórios e institucionais iminentes. Resta observar se ex-funcionários apresentarão denúncias formais de irregularidades a autoridades federais, como a Federal Trade Commission (FTC) ou a SEC, alegando declarações falsas sobre os controles de segurança corporativa a investidores ou consumidores. A SEC aplica regras que regulam como entidades com exposição pública e grandes alvos de investimento gerenciam riscos de segurança cibernética e a supervisão por parte do conselho.

Em Washington, observadores devem monitorar se órgãos de fiscalização do Congresso emitirão pedidos formais de esclarecimento ou convocarão executivos da OpenAI para depor sobre as defesas de infraestrutura e a segurança de modelos de uso duplo. Além disso, quaisquer mudanças de postura pública por parte de grandes apoiadores institucionais, especialmente a Microsoft, servirão como indicador da reação corporativa; parceiros comerciais podem exigir testes de intrusão independentes de terceiros e auditorias arquitetônicas administrativas obrigatórias.

Por fim, o setor técnico acompanhará atualizações nas certificações de conformidade públicas e nos relatórios de segurança ("whitepapers") da OpenAI. O nível de detalhamento que a empresa fornecer sobre mudanças em suas estruturas de gestão de identidade e acesso (IAM), controles baseados em funções e implementações de confiança zero ("zero-trust") revelará se as práticas organizacionais do passado foram definitivamente desmanteladas.

Esta reportagem é baseada na apuração original de Ana Maria Constantin.