El CEO de Nvidia, Jensen Huang, afirma que existe una probabilidad cero de riesgo existencial de la IA para 2030

El director ejecutivo de Nvidia Corporation, Jensen Huang, ha afirmado que existe una probabilidad del cero por ciento de que la inteligencia artificial provoque una catástrofe existencial que acabe con el mundo para 2030. En una entrevista emitida por CBS, Huang descartó los escenarios catastrofistas en torno a los sistemas automatizados avanzados durante lo que resta de década. La rotunda afirmación representa un cambio visible de discurso con respecto a las declaraciones que Huang realizó en agosto de 2026, cuando aconsejó a los laboratorios de inteligencia artificial de frontera moderar su ritmo de desarrollo si sentían que su tecnología se estaba volviendo incontrolable. Como líder del principal fabricante mundial de hardware especializado en inteligencia artificial, las garantías públicas de Huang tienen un peso significativo en el sector tecnológico, los mercados financieros y los organismos reguladores globales que se enfrentan a la rápida expansión de la capacidad de cómputo de frontera.

## Key facts - El director ejecutivo de Nvidia, Jensen Huang, afirmó en una entrevista con CBS que la probabilidad de que la inteligencia artificial acabe con la humanidad para 2030 es del cero por ciento. - La declaración contrasta con las observaciones realizadas por Huang en agosto de 2026, en las que aconsejaba a los laboratorios de inteligencia artificial moderar su ritmo si se sentían fuera de control. - Nvidia mantiene una cuota dominante en el mercado global de unidades de procesamiento gráfico de alto rendimiento utilizadas en el entrenamiento de modelos avanzados de inteligencia artificial. - Los líderes tecnológicos y los investigadores de seguridad siguen divididos sobre el potencial de la inteligencia general artificial para plantear amenazas sistémicas o existenciales antes de 2030. - Los organismos reguladores de Estados Unidos, Europa y Asia continúan evaluando los marcos de seguridad para el entrenamiento de modelos de frontera y la distribución de hardware.

## What happened En una entrevista con CBS, el director ejecutivo de Nvidia, Jensen Huang, abordó las inquietudes públicas y políticas sobre la seguridad a largo plazo de la inteligencia artificial avanzada, situando explícitamente la probabilidad de un desastre existencial impulsado por esta tecnología en el cero por ciento hasta el año 2030. La firme afirmación se realizó durante una conversación sobre la trayectoria del aprendizaje automático y el rápido escalado de la infraestructura informática global.

El rechazo absoluto de Huang al riesgo existencial para finales de la década marca un claro alejamiento de sus comentarios de agosto de 2026. Durante ese período, Huang recomendó públicamente que las organizaciones de desarrollo de inteligencia artificial deberían frenar deliberadamente su ritmo de investigación y despliegue si los equipos directivos o de ingeniería sentían que estaban perdiendo el control sobre sus sistemas. Los observadores del sector interpretaron las declaraciones de agosto como un reconocimiento de que el rápido crecimiento de las capacidades podría superar la gobernanza interna y las metodologías de alineación.

El cambio de abogar por la autocontención en condiciones de incertidumbre a afirmar una seguridad completa frente a desenlaces apocalípticos pone de relieve la evolución de la estrategia de relaciones públicas de los fabricantes de hardware. Mientras que desarrolladores de software y creadores de modelos como OpenAI, Anthropic y Google DeepMind se enfrentan a un escrutinio directo sobre el comportamiento de sus sistemas y sus fallos de alineación, Nvidia ocupa una posición única como principal proveedor de los chips físicos que hacen posibles dichos sistemas. La declaración de Huang a CBS busca redefinir el horizonte temporal del riesgo existencial potencial, presentando las preocupaciones sobre resultados catastróficos antes de 2030 como infundadas, al tiempo que sigue respaldando el despliegue comercial de arquitecturas de semiconductores cada vez más potentes.

## Why it matters La caracterización realizada por Huang del riesgo existencial como inexistente hasta 2030 conlleva profundas implicaciones para la trayectoria comercial del sector tecnológico, la valoración financiera de los fabricantes de semiconductores y el entorno regulatorio que rige la informática de alto rendimiento. Dado que Nvidia domina abrumadoramente el mercado de unidades de procesamiento gráfico (GPU) avanzadas, la perspectiva de su director ejecutivo influye directamente en la confianza de los inversores, los planes de infraestructura soberana y las evaluaciones de riesgo corporativo.

Para los mercados financieros, una declaración de riesgo cero por parte del principal arquitecto de hardware del auge de la inteligencia artificial señala a los inversores institucionales que el gasto de capital en masivos clústeres de servidores puede continuar sin la amenaza inmediata de cierres regulatorios o paralizaciones operativas graves vinculadas a preocupaciones de seguridad existencial. Los conglomerados tecnológicos han comprometido cientos de miles de millones de dólares en inversiones de capital para centros de datos, suministro de energía y adquisición de hardware. Un descarte categórico del riesgo catastrófico a corto plazo ayuda a justificar estos enormes desembolsos ante los accionistas.

Sin embargo, para los responsables de las políticas públicas y los defensores de la seguridad, los comentarios de Huang ponen de manifiesto una brecha creciente entre el liderazgo corporativo y los investigadores independientes de riesgos. Quienes elaboran las políticas en Washington, Bruselas y Tokio están diseñando actualmente marcos legislativos para prevenir los daños graves derivados de los sistemas automatizados, incluidos los riesgos biológicos, los ciberataques y la disrupción económica sistémica. Cuando la alta dirección resta importancia al potencial catastrófico, se complican los esfuerzos para establecer salvaguardas preventivas, estándares vinculantes de pruebas de seguridad o umbrales de cómputo obligatorios. Además, si los laboratorios de frontera operan bajo el supuesto de que la seguridad está garantizada hasta 2030, los compromisos voluntarios de seguridad acordados entre las empresas tecnológicas y los gobiernos podrían sufrir una menor presión de cumplimiento.

## The background El debate en torno al riesgo existencial de la inteligencia artificial —a menudo denominado en ámbitos académicos y políticos como x-risk— ha evolucionado rápidamente desde el despliegue comercial masivo de los grandes modelos de lenguaje a finales de 2022. Las preocupaciones se centran en la posible aparición de la inteligencia general artificial (AGI), definida como sistemas sintéticos que igualan o superan el rendimiento cognitivo humano en un amplio espectro de tareas económica y estratégicamente valiosas. Destacados informáticos y figuras de la industria han advertido previamente que una AGI no alineada podría actuar de forma autónoma de maneras perjudiciales o fatales para la sociedad humana.

En mayo de 2023, cientos de ejecutivos tecnológicos, científicos y académicos firmaron una declaración de una sola frase emitida por el Center for AI Safety, afirmando que mitigar el riesgo de extinción de la inteligencia artificial debería ser una prioridad mundial junto con otros riesgos a escala social como las pandemias y la guerra nuclear. La declaración pública introdujo los debates sobre el riesgo existencial en el discurso político general, lo que condujo a la Cumbre Internacional sobre la Seguridad de la IA inaugural en Bletchley Park, Reino Unido, en noviembre de 2023, donde 28 naciones firmaron la Declaración de Bletchley reconociendo el potencial de daños catastróficos de los modelos de frontera.

A lo largo de este período, el papel de Nvidia en el ecosistema de la inteligencia artificial creció exponencialmente. La empresa con sede en Santa Clara, California, vio cómo se disparaba su capitalización bursátil mientras clientes corporativos y estados soberanos se apresuraban a adquirir sus unidades de procesamiento gráfico insignia H100 y las más recientes Blackwell B200. Debido a que el entrenamiento de modelos de última generación requiere decenas de miles de GPU interconectadas operando simultáneamente, los plazos de entrega de hardware de Nvidia dictan de forma efectiva la velocidad a la que se pueden entrenar y desplegar nuevos modelos a nivel global.

El consejo anterior de Huang en agosto de 2026 —sugiriendo que los laboratorios moderaran su desarrollo si el control se percibía débil— coincidía con los compromisos voluntarios de seguridad asumidos por los principales desarrolladores de modelos para implementar "políticas de escalado responsable". Estas políticas establecen umbrales de seguridad predefinidos que exigen a los laboratorios pausar o alterar el entrenamiento de modelos si las evaluaciones de referencia indican capacidades peligrosas, como la replicación autónoma o la aptitud ciberofensiva. El contraste entre la cautela de Huang en agosto y su entrevista de septiembre en CBS refleja una tensión continua entre los modelos de gobernanza preventiva y los agresivos calendarios de expansión comercial dentro de la industria del hardware tecnológico.

## Reaction Tras las declaraciones emitidas por Huang en CBS, se espera que investigadores de inteligencia artificial, analistas de políticas y comentaristas del sector examinen a fondo la justificación detrás de su cifra del cero por ciento de riesgo. Los estudiosos del riesgo existencial y los investigadores de alineación argumentan con frecuencia que asignar una certeza numérica absoluta —en particular una probabilidad del cero por ciento— a sistemas técnicos complejos y en rápida evolución carece de justificación empírica, dadas las limitaciones actuales en la interpretabilidad de los modelos y las metodologías de prueba de seguridad.

Es probable que los competidores de la industria y los desarrolladores de software respondan a través de sus respectivos canales de políticas públicas. Si bien desarrolladores de modelos como Anthropic y OpenAI han integrado protocolos formales de seguridad y procedimientos de red-teaming en sus calendarios de despliegue, los proveedores de hardware generalmente han sostenido que la regulación de seguridad debería centrarse en las aplicaciones de software y los despliegues de usuarios finales en lugar de en la fabricación y distribución de chips físicos.

Se prevé que los legisladores del Congreso de los Estados Unidos y del Parlamento Europeo examinen si las declaraciones de los ejecutivos corporativos coinciden con las evaluaciones de riesgo internas presentadas a las autoridades reguladoras. En foros como el U.S. Artificial Intelligence Safety Institute y la European AI Office, los funcionarios continúan monitoreando si las promesas corporativas voluntarias son suficientes para supervisar la rápida expansión de los clústeres de cómputo de frontera, o si serán necesarios mandatos legislativos vinculantes tanto para los proveedores de hardware como para los laboratorios de software a fin de garantizar la seguridad pública.

## What we don't know yet - Se desconocen los criterios científicos, técnicos o empíricos específicos que Huang utilizó para llegar a un cálculo de riesgo del cero por ciento para el horizonte temporal de 2030. - No está claro si Nvidia mantiene umbrales internos de evaluación de riesgos que llevarían a la empresa a restringir los envíos de hardware a laboratorios que eludan los protocolos de seguridad estándar. - No se ha detallado hasta qué punto los comentarios de septiembre de Huang reflejan un cambio en la política corporativa interna de Nvidia con respecto a la responsabilidad corporativa, o simplemente una distinción entre amenazas existenciales generales y riesgos operativos inmediatos. - Queda por ver cómo los laboratorios de inteligencia artificial de frontera reconciliarán sus propios compromisos públicos de seguridad y marcos de escalado responsable con la postura de riesgo cero del fabricante de hardware.

## What to watch - Se vigilarán las futuras apariciones públicas, llamadas de resultados y presentaciones regulatorias de los ejecutivos de Nvidia para ver si el enfoque de riesgo cero se integra formalmente en las divulgaciones de riesgo corporativo. - Las reuniones internacionales sobre la seguridad de la inteligencia artificial y los informes de los institutos de seguridad gubernamentales proporcionarán evaluaciones actualizadas sobre los riesgos de los modelos de frontera y los mecanismos de supervisión del cómputo. - Los avances legislativos en las principales jurisdicciones, incluidas posibles enmiendas a los controles de exportación de semiconductores y proyectos de ley de supervisión de hardware en Estados Unidos y la Unión Europea, pondrán a prueba si los legisladores aceptan las garantías de los ejecutivos o imponen salvaguardas obligatorias más estrictas. - El lanzamiento programado de modelos de frontera de próxima generación por parte de los principales clientes de Nvidia indicará si los calendarios de desarrollo se aceleran o mantienen pausas de escalado responsable.

La información de este artículo se basa en el contexto y los relatos publicados originalmente por Cristian Dina.