Líderes tecnológicos pidieron moderación en la inteligencia artificial, pero las presiones de capital impulsan una nueva carrera

La cúpula directiva de los principales laboratorios de inteligencia artificial ha manifestado públicamente su deseo de gestionar o desacelerar el ritmo vertiginoso del desarrollo de modelos de frontera, aun cuando las estrategias internas y las presentaciones a inversores privados continúan priorizando el despliegue rápido y el dominio del mercado. Según las revelaciones del corresponsal de tecnología Gerrit De Vynck, el director ejecutivo de Anthropic, Dario Amodei, junto con líderes ejecutivos de OpenAI y SpaceX —cuyo fundador Elon Musk supervisa la empresa emergente rival xAI—, abogaron por imponer límites a la rápida trayectoria del sector, solo para mantener una postura agresiva de desarrollo apenas seis semanas después. La divergencia entre los llamamientos a la cautela regulatoria y la realidad operativa de la investigación de frontera respaldada por capital de riesgo pone de relieve la persistente tensión entre los principios de seguridad declarados y los intensos incentivos comerciales que rigen el sector más intensivo en capital de Silicon Valley.

## Hechos clave

- El director ejecutivo de Anthropic, Dario Amodei, respaldó públicamente las peticiones para frenar o moderar el rápido ritmo del desarrollo de la inteligencia artificial. - Destacados ejecutivos de organizaciones rivales, incluida la dirección de OpenAI y el fundador de SpaceX, Elon Musk, expresaron previamente posturas similares respecto a la necesidad de una moderación estructural en el entrenamiento de modelos de frontera. - En un plazo aproximado de seis semanas tras esas posturas públicas, los laboratorios de frontera indicaron a los inversores privados que tienen la intención de mantener o acelerar sus trayectorias competitivas en lugar de frenar el paso. - Anthropic, fundada en 2021 como una corporación de beneficio público con un énfasis explícito en la seguridad de la IA, depende de miles de millones de dólares en compromisos de computación en la nube de socios corporativos como Amazon y Google. - La dinámica competitiva entre los principales desarrolladores de frontera continúa centrándose en la adquisición de unidades de procesamiento gráfico avanzadas, la expansión de la infraestructura de centros de datos y la obtención de rondas de financiamiento multimillonarias.

## Qué ocurrió

Según la información de Gerrit De Vynck, destacados ejecutivos tecnológicos adoptaron una doble postura a lo largo de un período de aproximadamente seis semanas: advirtieron públicamente sobre la aceleración descontrolada de la inteligencia artificial, al tiempo que aseguraban a los financistas su intención de expandir las fronteras en la competencia comercial. En el centro de esta situación estuvo Dario Amodei, director ejecutivo de Anthropic, con sede en San Francisco, quien se sumó a colegas como la dirección de OpenAI y Elon Musk al manifestar la necesidad de frenar el avance desenfrenado de la tecnología.

Sin embargo, a puerta cerrada y en presentaciones ante socios de capital, ha habido escasos indicios de desaceleración operativa. La información indica que las empresas han continuado solicitando masivas asignaciones de capital, trasladando a los inversores que avanzarán con celeridad para captar cuota de mercado y alcanzar hitos técnicos de próxima generación. Mientras que los ejecutivos sostuvieron en foros de políticas públicas y declaraciones abiertas que los saltos técnicos sin control plantean riesgos sistémicos para la sociedad y la seguridad nacional, sus hojas de ruta corporativas continúan orientadas a lanzar modelos más potentes en calendarios comprimidos.

Esta dinámica ilustra la trampa institucional a la que se enfrentan los desarrolladores de IA de frontera. En las reuniones informativas sobre capital de riesgo, los asignadores de capital suelen percibir una desaceleración unilateral como una cesión de la supremacía tecnológica a los rivales directos. Como consecuencia, las admisiones públicas de los líderes corporativos de que la tecnología progresa con excesiva rapidez no se han traducido en suspensiones verificables de los ciclos de entrenamiento de modelos, en la construcción de clústeres de cómputo ni en la agresiva contratación de personal de investigación en aprendizaje automático.

## Por qué es importante

La contradicción entre la retórica de los ejecutivos y la ejecución corporativa conlleva implicaciones concretas para legisladores, inversores, compradores de software empresarial y la opinión pública. Para los reguladores de Washington, Londres y Bruselas, este episodio demuestra las limitaciones de la autorregulación voluntaria de la industria. Cuando los líderes corporativos reconocen que el progreso técnico avanza con una rapidez peligrosa, pero admiten de forma implícita o explícita ante los inversores que las presiones competitivas les impiden hacer una pausa, los cuerpos legislativos se enfrentan a una prueba evidente de que la moderación autoimpuesta rara vez sobrevive a la competencia de mercado.

En los mercados financieros, la narrativa de un progreso rápido e inevitable es esencial para justificar las valoraciones históricas otorgadas actualmente a las empresas de IA de frontera. Los principales laboratorios consumen miles de millones de dólares anuales en gastos operativos, impulsados principalmente por el acceso a clústeres de semiconductores avanzados, tales como los chips Nvidia H100 y Blackwell, y a infraestructura eléctrica especializada. Si un laboratorio individual aplicara una pausa unilateral o un período prolongado de enfriamiento sin un tratado multilateral vinculante, su eficiencia de capital se deterioraría con rapidez mientras los costos fijos de infraestructura se mantienen pendientes de liquidación. En consecuencia, los inversores demandan una iteración técnica demostrable y velocidad comercial como condición para el financiamiento continuo.

Para los clientes corporativos y la sociedad civil, el ritmo acelerado agrava los desafíos de gobernanza. Las organizaciones que integran sistemas de frontera en los flujos de trabajo empresariales deben adaptarse continuamente a capacidades cambiantes, ciclos de desuso y vulnerabilidades de seguridad emergentes. Mientras tanto, las evaluaciones independientes sobre los riesgos de bioseguridad, las fallas de ciberseguridad y las preocupaciones en torno a la replicación autónoma de los modelos luchan por mantener el ritmo frente a cronogramas de despliegue determinados por las expectativas de los inversores y no por una verificación exhaustiva de la seguridad.

## Antecedentes

La tensión entre la capacidad técnica y el riesgo existencial ha acompañado a Anthropic desde su creación. Fundada en 2021 por Dario Amodei y su hermana Daniela Amodei —ambos ex altos ejecutivos de OpenAI—, Anthropic se estructuró como una corporación de beneficio público en Delaware. Su equipo fundador abandonó OpenAI debido en gran medida a la preocupación de que las asociaciones comerciales y la rápida comercialización de productos, en particular la intensificación de la alianza con Microsoft Corporation, estuvieran subordinando la investigación básica en seguridad a los imperativos comerciales.

Para formalizar su compromiso con el desarrollo responsable, Anthropic constituyó un Long-Term Benefit Trust y adoptó un marco voluntario conocido como Políticas de Escalado Responsable (Responsible Scaling Policies o RSP). Bajo estas pautas, la empresa se comprometió a supeditar el desarrollo y despliegue de modelos cada vez más potentes a niveles de seguridad predeterminados, exigiendo salvaguardas técnicas y operativas específicas antes de iniciar el entrenamiento de sistemas con umbrales de riesgo definidos. De manera similar, OpenAI publicó su propio Marco de Preparación (Preparedness Framework) para evaluar riesgos catastróficos en los ámbitos químico, biológico, radiológico y cibernético.

Los llamamientos públicos a la moderación se han sucedido a lo largo de la historia reciente de la IA. En marzo de 2023, el Future of Life Institute difundió una carta abierta firmada por miles de tecnólogos, académicos y ejecutivos —incluido Elon Musk— en la que se solicitaba una moratoria de seis meses sobre el entrenamiento de sistemas más potentes que GPT-4 de OpenAI. A pesar de la atención pública obtenida por la petición, ningún desarrollador de frontera relevante detuvo sus inversiones en infraestructura ni sus ciclos de entrenamiento de frontera. En su lugar, Musk fundó posteriormente su propio laboratorio competidor, xAI, que construyó rápidamente el clúster de supercomputación Colossus en Memphis, Tennessee, utilizando 100.000 procesadores gráficos para entrenar a su familia de modelos Grok.

Los responsables de políticas a nivel federal han intentado regular el sector mediante mecanismos administrativos. En octubre de 2023, el gobierno de Biden promulgó la Orden Ejecutiva 14110 sobre Inteligencia Artificial Segura, Fiable y Digna de Confianza (Executive Order 14110 on Safe, Secure, and Trustworthy Artificial Intelligence), invocando la Ley de Producción de Defensa (Defense Production Act) para requerir que los desarrolladores de modelos fundacionales de uso dual que superen determinados umbrales computacionales —fijados en 10^26 operaciones de punto flotante— reporten los resultados de las pruebas de seguridad al gobierno federal y al recién creado U.S. Artificial Intelligence Safety Institute, dependiente del National Institute of Standards and Technology. Sin embargo, la autoridad estatutaria para ordenar pausas o imponer desaceleraciones de obligado cumplimiento sigue siendo inexistente a nivel federal en Estados Unidos, lo que deja las decisiones sobre el ritmo de desarrollo por completo en manos de las juntas directivas y de la dirección ejecutiva.

## Reacciones

Se anticipa que el contraste entre las advertencias públicas y los mensajes a los inversores documentado en el reporte de De Vynck intensifique el escrutinio en el Capitolio y por parte de agencias regulatorias internacionales. Es previsible que los legisladores que han recibido a Amodei, al director ejecutivo de OpenAI Sam Altman y a otras figuras tecnológicas en audiencias del Congreso sobre la supervisión de la inteligencia artificial cuestionen si las garantías corporativas voluntarias constituyen una base adecuada para la política nacional.

Organizaciones de interés público e investigadores académicos centrados en la rendición de cuentas algorítmica han sostenido durante mucho tiempo que los compromisos corporativos respecto a un ritmo ético funcionan como maniobras de relaciones públicas diseñadas para anticiparse a restricciones legislativas obligatorias. Se prevé que estos observadores señalen las comunicaciones con los inversores como prueba de que la dinámica competitiva se impone sobre los límites éticos proclamados.

Por el contrario, figuras dentro del ecosistema del capital de riesgo, particularmente las alineadas con filosofías tecnooptimistas y de código abierto, han calificado históricamente las demandas de desaceleración regulatoria como una forma de captura regulatoria. Estos críticos argumentan que los actores consolidados defienden públicamente frenos relacionados con la seguridad para erigir altas barreras de cumplimiento normativo frente a rivales emergentes, mientras ejecutan en privado estrategias agresivas para consolidar su propio dominio en el mercado.

## Lo que aún se desconoce

Varios aspectos críticos relativos a las comunicaciones reportadas continúan sin desvelarse. La información periodística no detalla los foros exactos, las fechas ni la documentación financiera específica en la que Amodei y sus homólogos comunicaron sus planes a los inversores, ni tampoco precisa si los frenos propuestos se concibieron como pactos mutuos voluntarios, límites regulatorios formales o tratados internacionales condicionales.

Asimismo, sigue sin aclararse si alguno de los grandes laboratorios consideró formalmente activar sus mecanismos internos de pausa —como los detonantes de las Políticas de Escalado Responsable de Anthropic o los umbrales del Marco de Preparación de OpenAI— durante este período, o si las evaluaciones de seguridad en curso no hallaron justificación técnica para una paralización operativa. También persisten lagunas sobre cómo respondieron importantes respaldos corporativos, tales como Amazon, Google y Microsoft, a los comentarios públicos, y si dichos socios ejercieron presión contractual sobre la dirección de los laboratorios para preservar el ritmo comercial en aras de proteger los ingresos por infraestructura en la nube.

## Qué observar

La trayectoria práctica del sector quedará determinada por varios puntos de control concretos en los próximos trimestres. Los observadores deberán vigilar si Anthropic, OpenAI o xAI anuncian revisiones formales a sus marcos voluntarios de seguridad o notifican haber alcanzado umbrales de riesgo preestablecidos que activen pausas internas de entrenamiento. Cualquier notificación en el marco de los mandatos de reporte de directivas ejecutivas federales o medidas emergentes de ámbito estatal, como las iniciativas legislativas en curso en California y la aplicación progresiva de la AI Act de la Unión Europea, ofrecerá pruebas verificables sobre si el ritmo operativo está sufriendo alteraciones.

Las declaraciones financieras y los registros de rondas de inversión en capital de riesgo constituirán otra métrica crucial. Si Anthropic y sus competidores cierran posteriores rondas de capitalización multimillonarias bajo condiciones fundamentadas en un rápido escalado del cómputo y en el lanzamiento de modelos a corto plazo, se confirmará que los incentivos de mercado continúan firmemente orientados en contra de una desaceleración. Por último, las próximas audiencias en el Congreso y las cumbres internacionales sobre seguridad en IA pondrán a prueba si se interroga bajo juramento a los directivos para que concilien sus advertencias públicas sobre un avance descontrolado con sus compromisos privados frente a los proveedores de capital.

Este reporte se basa en la cobertura original del periodista de tecnología Gerrit De Vynck.