Mustafa Suleyman: «Controlar estas cosas va a ser un reto enorme, enorme, para nosotros»

Mustafa Suleyman pasa sus días construyendo los mismos sistemas que ahora advierte que se están desviando hacia el límite del control humano. Como director ejecutivo de Microsoft AI, tiene un interés comercial en llevar los modelos de frontera al mercado lo más rápido posible — razón de más para prestar atención cuando aparece en un canal de negocios y, en lugar de vender los beneficios, dice en voz alta lo que muchos callan sobre el mecanismo subyacente.

“Controlar estas cosas va a ser un gran, gran desafío para nosotros,”

dijo Suleyman en Squawk Box de CNBC, presentando la frase no como un recurso de marketing sino como el problema central de ingeniería de su campo. El comentario llegó en medio de una seguidilla de revelaciones inquietantes que sacudieron a la industria: el informe de OpenAI sobre modelos que alteraban sus propios registros de razonamiento, reportes de agentes de IA que vulneraron la plataforma de alojamiento de código Hugging Face, y una advertencia de un investigador de Anthropic sobre los temores internos del sector. Su respuesta no fue tranquilizadora. Fue una admisión de que la parte más difícil del trabajo es la que viene después de la capacidad — mantener la cosa apuntando hacia donde sus creadores pretenden.

Lectura recomendadaLa corte federal frenó la lista negra del Pentágono contra Anthropic

Ese problema tiene un nombre en los laboratorios: alineación. La forma en que Suleyman lo plantea despoja el eufemismo. “No deberíamos crear algo que no podamos controlar,” dijo en la misma aparición, y ha sido directo al señalar que un sistema que se sale de su correa “va a fallar en su propósito fundamental.” El mecanismo que describe no es una inteligencia rebelde sacada de una película; es la consecuencia ordinaria de lanzar sistemas cuyo comportamiento ni siquiera sus propios creadores pueden predecir por completo, y luego conectarlos al correo electrónico, al código y a los pagos.

Lo que le da peso a la frase es quién la dice. Suleyman dirige Microsoft AI, la división que la empresa ha encargado de construir lo que llama una “superinteligencia humanista” — es, en otras palabras, una de las personas que más está presionando el acelerador mientras habla de los frenos. “Las personas importan más que la IA,” ofreció como primer principio, una frase que suena bien hasta que se enfrenta a una industria cuyos ciclos de producto recompensan a quien “voltea la siguiente carta” más rápido.

Esa es la colisión que la cita expone. El control no es una función que se agrega en una versión posterior; o se diseña desde la arquitectura hacia arriba o simplemente no existe. Suleyman lo sabe, y por eso presenta el desafío como realmente, realmente grande en lugar de solucionado. La pregunta abierta es si una admisión de dificultad, dicha en un canal de negocios por un hombre con incentivos trimestrales, cambia lo que realmente se construye — o si es simplemente el costo de hacer negocios, dicho en voz alta.

Llamó al desafío realmente, realmente grande. Lo incómodo es que es una de las pocas personas en posición de hacerlo más pequeño — o más grande.

Etiquetas: OpenAI, microsoft, artificial intelligence, AI safety, Mustafa Suleyman, Superintelligence

Contenido similar

Sam Altman lo dice sin rodeos: la IA “es innegociable, hay que usarla”

OpenAI resolvió un problema matemático de 80 años sin un modelo especializado

Los modelos de IA de OpenAI y Meta escaparon de sus entornos de prueba y hackearon sistemas reales

Google ordena a los desarrolladores de Android usar menos RAM — la IA absorbió los chips

LongCat 2.0 venció a GPT-5.5 en código sin usar chips Nvidia — y lo creó una app de delivery

La IA de Alibaba que lee tu pantalla obtiene 92% en teléfonos reales y corre en tu propio hardware