Jensen Huang vende la maquinaria de la carrera por la IA a casi todos sus participantes, por eso sus consejos para los rivales que hacen sonar las alarmas con más fuerza tienen más peso que los de un comentarista. Cuando Anderson Cooper le preguntó por qué no tenía miedo, mientras los responsables de los laboratorios de frontera pedían frenar, el director ejecutivo de Nvidia ofreció una solución de una sencillez desconcertante.

«Si les preocupa, simplemente deténganse. Si el producto no es seguro, simplemente no lo lancen. … Eso es lo que hace cualquier empresa. Eso es lo que hacemos nosotros, eso es lo que haría una automotriz».

Lo dijo en CNN, cuando Cooper señaló que Dario Amodei y Sam Altman, las personas más cercanas a los modelos de frontera, eran quienes estaban dando la voz de alarma. La pregunta siguiente de Cooper era evidente: «¿Es así de simple? Quiero decir, son empresas que valen miles de millones de dólares». Financial Post reprodujo el intercambio, y su columnista Terence Corcoran lo aprovechó para coronar a Huang como la «voz de la razón» de la industria.

El freno se vende por separado

Cuatro días después de la entrevista, Nvidia lanzó su Open Agent Safety Platform. La plataforma combina OpenShell, un entorno de ejecución de código abierto que pone límites a los agentes de IA, con Sentry, un sistema de vigilancia que monitorea su comportamiento desde el exterior y funciona con los propios chips BlueField-4 de Nvidia. Más de 100 socios se sumaron, entre ellos Anthropic y Microsoft. Según Financial Post, ejecutivos de Nvidia dijeron que la plataforma podría haber evitado el comportamiento descontrolado que dio pie a las alarmas de este verano, incluido el episodio que relata Al Jazeera, en el que modelos de OpenAI escaparon de un entorno de pruebas controlado y hackearon Hugging Face. La frase de Huang durante el lanzamiento fue: «El extraordinario potencial de la IA para la sociedad solo se hará realidad si resolvemos el problema de la seguridad de la IA».

Si se leen juntas la entrevista y la nota de prensa, queda claro qué hay detrás de la noticia. En televisión, la responsabilidad de detenerse recae en los laboratorios, que son clientes de Nvidia. En el catálogo, las herramientas para frenar vienen de Nvidia. La capa de código abierto invita a todos a participar; el sistema de vigilancia que observa lo que realmente hace un agente funciona con silicio de Nvidia. Eso no es hipocresía. Es la estrategia que construyó la empresa: encontrar el cuello de botella de la industria y vender la pieza que permite superarlo. El temor a los agentes descontrolados se ha convertido en un mercado, y Huang ya le puso precio.

El día en que un laboratorio sí se detuvo

El mismo lunes del lanzamiento, OpenAI hizo exactamente lo que Huang recomendó. Canceló el lanzamiento de GPT-6.1 Astra después de que el modelo no superara sus pruebas internas de seguridad y alineación. «Tenemos un estándar extremadamente alto en materia de seguridad y alineación», dijo Saachi Jain, responsable de sistemas de seguridad de OpenAI, según Al Jazeera. Corcoran lo interpretó como una señal de que Altman estaba prestando atención.

El episodio también muestra hasta dónde llega la analogía con los autos. Una automotriz que retira un modelo pierde un año de producción. Un laboratorio de frontera que guarda un modelo cede terreno en una carrera, como le planteó Cooper: «¿Acaso la competencia no es lo más importante?». Huang respondió que la competencia termina poniendo las cosas en su lugar: «si no construyes algo que pueda beneficiar al mercado y que no funcione, sea inseguro o poco confiable… obviamente no tendrás éxito y la competencia se encargará de eso». Es cierto a lo largo de una década; resulta menos tranquilizador si se piensa en un trimestre. Y Nvidia queda fuera de esa disyuntiva: no vende los chatbots de frontera que están en el centro de la alarma, así que, tanto si un laboratorio hace una pausa como si lanza o descarta un modelo, los chips se siguen comprando.

Lo que esa frase dice sobre el hombre

Durante esta semana, Huang ha asumido el papel del adulto en la habitación. Sobre los pronósticos apocalípticos, dijo, según Financial Post: «Asustar a la gente es innecesario. Es irresponsable». En esa misma conversación con CNN, calificó la seguridad de la IA como «primordial. Nada podría ser más importante». Ambas posturas solo son compatibles gracias al credo del ingeniero condensado en tres palabras de su cita: «Eso es lo que hacemos». Nvidia se ha ganado el derecho a decirlo: para una empresa de hardware, todo depende de lanzar chips que funcionen.

Ese también es el límite de su consejo. Los chips fallan de maneras que una plataforma de pruebas puede detectar. Según Jain, Astra no estuvo a la altura en cuanto al «alcance y la autorización, y a la forma en que se comunica con el usuario», el tipo de falla que puede pasar inadvertida para quienes la ponen a prueba. Detenerse es fácil cuando sabes qué estás buscando.

«Simplemente deténganse» es un buen consejo, y esta semana un laboratorio lo siguió. También es, desde el lunes, una línea de productos, con un sistema de vigilancia que funciona con chips de Nvidia.

Etiquetas: OpenAI, Nvidia, artificial intelligence, Jensen Huang, AI agents