IA

Sam Altman, CEO de OpenAI, asegura que sacaron de contexto su comentario sobre la RAM; el podcast completo matiza

Él estaba respondiendo una pregunta sobre la inferencia de IA local, no sobre las PC para juegos. Su argumento aún sitúa la escasez de memoria en los centros de datos.
Adrian Kessler
Añádenos en Google

Sam Altman quiere dejar constancia de que está del lado de quienes compran memoria para sus propias computadoras. El director ejecutivo de OpenAI dice que sacaron de contexto su comentario sobre las PC domésticas que acaparan la escasa DRAM del mundo, y que lleva mucho tiempo defendiendo que la industria produzca más. La conversación completa muestra que tiene razón a medias. El contexto cambia lo que quiso decir, pero no cambia hacia dónde dirige su argumento los chips mientras dure la escasez.

Se defendió en X después de varios días de bromas a su costa, y se sumó a ellas mientras lo hacía. Un usuario le pidió que cambiara el nombre de su cuenta a “Ram Altman”. Él respondió “ok yeah” y modificó el nombre que aparece en pantalla. Después se explicó: “en realidad sí quiero que haya muchísima memoria en el mundo y que la gente pueda poner tanta como quiera en sus computadoras, y es jodidamente molesto que esto se haya sacado de contexto”. Añadió: “Hace mucho tiempo que vengo defendiendo que el mundo aumente la producción de memoria”.

Lo que Altman dijo realmente en Cheeky Pint

La frase aparece en Cheeky Pint, el pódcast conducido por John Collison, cofundador de Stripe, que publica transcripciones completas. El pasaje dice: “Pero, desde la perspectiva de la asignación global, en realidad es bastante terrible que todo el mundo tenga una buena cantidad de la limitada oferta mundial de DRAM guardada en su propia computadora. Y que se use […] el 5 % del tiempo. Si intentas lidiar con este entorno de oferta tan restringida, quieres la máxima utilización posible en la nube”.

La mayoría de las notas empezó a citarlo a partir de ahí. Pero lo que dijo antes también importa. Collison le había preguntado por qué los altos precios de la memoria no estaban atrayendo a nuevos fabricantes al mercado. Altman respondió que “la mano invisible está fallando en este momento”. Durante décadas, dijo, un fabricante de DRAM podía “invertir 20.000 millones de dólares en gastos de capital para ganar 19.000 millones” y sobrevivir a los ciclos de auge y caída. Ahora que, según sus cálculos, cada uno puede ganar “algo así como 100.000 millones de dólares de flujo de caja libre en un año”, “todos recuerdan su historia. Cuántas veces estuvieron a punto de quebrar por construir demasiadas fábricas”. Solo entonces habló de quienes quieren ejecutar inferencia local: correr modelos de IA de código abierto en sus propios equipos, con la idea de que eso reduce la presión sobre los centros de datos. La frase “bastante terrible” fue su respuesta a esa idea.

Más adelante, en la misma conversación, dice que el costo de la energía y de los chips “debería bajar”, que “si no baja, me voy a poner muy triste” y que “la oferta tiene que aumentar muchísimo”. En ese punto específico, su defensa se sostiene. Hablaba de ejecutar inferencia de IA en casa, no de equipos para videojuegos o edición de video, y en el mismo episodio pidió que aumentara la producción.

Hasta dónde sirve el contexto

En un mercado con escasez de oferta, hablar de asignación es hablar de quién se queda con los chips. “La máxima utilización posible en la nube” los dirige a los centros de datos, y OpenAI es uno de los mayores compradores de ese mercado. Samsung y SK Hynix firmaron cartas de intención para suministrar memoria al proyecto de infraestructura Stargate de OpenAI, un compromiso que The Register calculó en alrededor de 900.000 inicios mensuales de obleas de DRAM. Las cartas no son vinculantes, pero muestran qué parte del mercado pretende comprar OpenAI. Notebookcheck señaló que el argumento también encaja con el modelo de negocio de OpenAI: modelos cerrados que funcionan en sus centros de datos y se venden mediante suscripción.

Incluso la afirmación más clara del episodio sobre la abundancia no es de Altman. La idea de un “exceso de capacidad de cómputo” en el que “cualquiera que quiera una computadora, por cualquier motivo, pueda tener una” es el resumen que hace Collison de la postura de Altman. Este no respondió directamente. Contestó en términos de centros de datos y habló del costo de cinco años de capacidad de un gigavatio, que calculó en unos 70.000 millones de dólares y que quisiera ver bajar a 20.000 millones.

La cifra del 5 % no tiene fuente

La cifra que desató la polémica no viene acompañada de ninguna medición. PC Games Hardware señaló que describe cuánto tiempo está ocupada la memoria, no cuánta necesita una máquina: un sistema operativo mantiene datos en caché y los programas reclaman más memoria en ráfagas. Aunque un gigabyte quede inactivo durante la noche, tiene que estar disponible cuando se carga un juego o un modelo local. Además, la gente ejecuta IA en sus propios equipos por motivos que una cifra de utilización no puede reflejar, como la privacidad, el control sobre un modelo que un proveedor no pueda cambiar discretamente y pagar una sola vez en lugar de una suscripción.

Elon Musk también intervino en X con el mensaje: “¡La gente merece tener su propia RAM!”. Como señaló PC Games Hardware, su propia iniciativa de IA opera el centro de datos Colossus en Memphis.

La escasez ya se refleja en los precios de las tiendas. El 2 de noviembre, Raspberry Pi subió 80 dólares el precio de la Raspberry Pi 5 de 16 GB, hasta los 385 dólares, y citó “la falta de una oferta alternativa de DRAM de 16 GB”. PC Gamer, cuyo artículo difundió el intercambio en X entre una amplia audiencia, escribió que los entusiastas de la tecnología y los aficionados a los videojuegos se han quedado “sin poder comprar hardware nuevo” por culpa de OpenAI y del resto de la industria de la IA. El episodio de Cheeky Pint se publicó el 29 de octubre, y las respuestas de Altman en X llegaron durante los primeros días de noviembre.

La solución que propone Altman para todo esto es construir más fábricas. Según él mismo cuenta, las empresas que tendrían que construirlas recuerdan que estuvieron a punto de quebrar la última vez que alguien les dijo que el auge sería distinto. Hasta que cambien de opinión, la memoria ya se está asignando tal como él describió: al comprador que paga más y la mantiene más ocupada. Y ese comprador es un centro de datos, no una computadora de escritorio.

Etiquetas: , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.