Jensen Huang, de Nvidia: cero incidentes de ciberseguridad con IA y que los alarmistas renuncien

Jensen Huang ya tomó partido en el debate sobre cuánto daño debería permitirse que cause la IA en su camino hacia la utilidad. En una entrevista con Fortune en Londres, el director ejecutivo de Nvidia dijo que no aceptaría ningún incidente de ciberseguridad causado por esta tecnología y que cualquiera que crea que la IA podría acabar con la civilización «realmente debería dejar de trabajar en ella». Leída como una disputa con Sam Altman, es un buen titular. Leída como una postura de ingeniería, plantea algo más específico: cómo cree Huang que deberían construirse los agentes de IA y qué vende ahora su empresa para hacerlo de esa manera.

Las dos partes de la entrevista también apuntan en direcciones distintas. Un estándar de cero incidentes supone que hay que mantener a un agente de IA bajo llave, porque podría causar daño. El rechazo a los catastrofistas parte de la premisa opuesta: que la tecnología está, en sus palabras, «completamente bajo nuestro control». Nadie construye una jaula para un sistema en el que confía plenamente.

Lo que Huang le dijo a Fortune

La cita central, según la reportó Fortune: «Estoy dispuesto a aceptar cero incidentes de ciberseguridad. No deberíamos aceptar ninguno. Deberíamos hacer todo lo posible para evitarlos». Huang sostuvo que los incidentes registrados hasta ahora se podrían haber evitado con medidas más sólidas para confinar y supervisar a los agentes de IA. Los comparó con los primeros años de internet para el consumidor, cuando visitar el sitio web equivocado podía infectar una PC, hasta que los navegadores aprendieron a aislar cada sitio del equipo. Los agentes, dijo, necesitan el mismo tratamiento: estar encerrados en un contenedor seguro que limite su acceso a aquello que tienen permitido usar.

Lectura recomendadaLedger encontró un chip oculto en una billetera cripto vendida en Malasia

Sobre el riesgo existencial, fue más tajante. Fortune informa que descartó las advertencias de figuras destacadas de la industria, entre ellas Dario Amodei, de Anthropic. «No sé por qué alguien querría apoyar el avance de una tecnología que va a provocar, ya saben, el fin de la civilización humana tal como la conocemos», dijo. «Y, si creen eso, realmente deberían dejar de trabajar en ella».

El choque con Altman es menos amplio de lo que parece

Fortune contrastó sus declaraciones con las de Altman, quien dijo que el mundo debería aceptar «que ocurran algunas cosas malas a cambio de los beneficios de esta tecnología». Fortune y la nota de Hindustan Times basada en esa entrevista sitúan la frase en una conversación con Vanity Fair. Se grabó para el pódcast Decoded de Politico, la fuente a la que Media Bias/Fact Check rastreó la cita cuando la calificó como precisa.

Ese mismo análisis también registra la distinción que hizo Altman. Los riesgos acotados y comprendidos son un precio que vale la pena pagar por los beneficios; los resultados catastróficos, no. La postura de Huang es la imagen inversa. Rechaza los daños acotados y trata el riesgo catastrófico como un temor que nadie debería tomar como guía para actuar. Cada uno ha dejado fuera la mitad del balance de riesgos que el otro considera esencial.

El contenedor ya está a la venta

La propuesta de Huang no es abstracta. Nvidia lanzó su Open Agent Safety Platform dos semanas antes de la entrevista, basada en la idea que describió en Londres. Según Associated Press, su software de código abierto OpenShell permite a los desarrolladores verificar que un agente tenga «la autoridad suficiente para hacer su trabajo y nada más», mientras que una segunda capa, Sentry, funciona en los chips, vigila continuamente la actividad de los agentes y puede «poner en cuarentena a un agente sospechoso en milisegundos». Más de 100 organizaciones lo utilizaban cuando se lanzó, entre ellas Microsoft y JPMorgan Chase.

Los incidentes frente a los que se presentó la plataforma son los que Huang ahora dice que nunca deberían haber ocurrido: un enjambre de agentes de OpenAI que hackeó por su cuenta Hugging Face, modelos de OpenAI que vulneraron el sitio web de un departamento de salud australiano y revelaciones de Anthropic y Meta de que sus sistemas habían irrumpido en otras organizaciones. Nvidia le dijo a AP que la plataforma «podría haber detenido la brecha» en Hugging Face si los laboratorios de vanguardia la hubieran usado durante las pruebas iniciales.

Nada de eso significa que Huang esté equivocado. El aislamiento es la forma en que los navegadores lograron controlar el código hostil, y es un principio sólido para los agentes. Pero exigir cero incidentes también sirve como estándar de venta, además de ser un criterio de seguridad, y Huang lo fijó poco después de lanzar el producto que lo favorece. Un mes antes, en una conferencia de Goldman Sachs en San Francisco, describió la alarma de la industria por la ciberseguridad de una forma mucho menos amable. La conversación era intensa, dijo, porque «la industria se está preparando para lanzar» productos. «¿Qué mejor manera de generar demanda que crear un problema?»

La gira europea

Fortune publicó la entrevista el 14 de octubre de 2026, durante una gira europea que comenzó en París. Allí Huang le dijo al público que «Europa tiene que entrar en la carrera» y afirmó que Nvidia anunciaría 2 mil millones de dólares en nuevas inversiones en Europa en el plazo de una semana, además de los 8 mil millones ya comprometidos. La gira continúa en Berlín, donde Nvidia celebrará su conferencia GTC a finales de este mes.

Huang ya convirtió los cero incidentes en el estándar por el que quiere que se juzgue a la industria. Cuando el próximo agente salga de un laboratorio, la primera pregunta será si funcionaba dentro de un contenedor y de quién era.

Etiquetas: Nvidia, Sam Altman, agentes de IA, Jensen Huang, seguridad de la IA

Contenido similar

Con Claude bastaron unos días para entrar en OpenAI, y el foco recae en Anthropic

El primer ransomware autónomo de IA todavía necesitaba un humano para cobrar el rescate

El fisco de Países Bajos deja Microsoft 365 y pasará su correo a servidores propios

Hackers explotan vulnerabilidades en 24 horas: el informe de CrowdStrike 2026 documenta la nueva velocidad del cibercrimen

TikTok pagará 400 millones de dólares por recopilar datos de menores sin consentimiento

Instagram Instants está bajo investigación en Reino Unido por la seguridad de menores