IA

OpenAI declara la era AGI. El benchmark que cita sitúa la puntuación 37 puntos por debajo

Adrian Kessler

Jensen Huang publicó en X una frase y una felicitación: “De ChatGPT a o1 a Astra en 4 años, la AGI ha llegado. Felicidades al equipo de OpenAI.” Lo envió el 6 de septiembre. Tres días antes, Greg Brockman, presidente de OpenAI, había usado un marco casi idéntico con la prensa: “Bienvenidos a la era de la AGI.” Las declaraciones llegaron juntas, de dos hombres con intereses complementarios, y fueron recibidas en gran medida como una confirmación.

El benchmark que sustentaba la afirmación era ARC-AGI-3. OpenAI dijo que Astra, su nuevo modelo fronterizo lanzado bajo la designación GPT-6, obtuvo un 99.9% en ARC-AGI-3 y un 98% en FrontierMath Tier 4. Puntuaciones a ese nivel, bajo condiciones estándar, representarían una discontinuidad real — un modelo que no solo funciona bien sino que llega a un territorio que benchmarks anteriores consideraban aspiracional. La organización que construyó ARC-AGI-3 publicó una puntuación desde su arnés de evaluación estándar: 62.7%.

Treinta y siete puntos porcentuales separan esas dos cifras. Ambas provienen de evaluaciones reales. El arnés interno de OpenAI y el arnés de referencia de los creadores del benchmark no son el mismo protocolo, y el mismo modelo produce diferentes puntuaciones bajo cada uno. Lo que la organización de ARC-AGI-3 utiliza como su condición de referencia — la que considera válida para comparar modelos en todo el campo — arrojó un 62.7%. La configuración interna de OpenAI arrojó un 99.9%. La diferencia entre esos números es la diferencia entre un resultado sólido en un benchmark y una declaración de llegada.

La venta de chips detrás de la felicitación por la AGI

Astra fue entrenado con chips de NVIDIA. Huang vende chips de NVIDIA. Cuando un CEO felicita públicamente a un cliente por superar un umbral histórico — un umbral que convierte al hardware utilizado para construir ese producto en la infraestructura definitoria para lo que viene después — el anuncio es, estructuralmente, una afirmación comercial. No una conspiración. Una realidad estructural: el conflicto de intereses era visible, el marco hablaba de llegada más que de rendimiento, y la mayor parte de la cobertura recibió ambos sin comentarios.

El mercado de chips para infraestructura de IA se mueve por narrativas. Si Astra es AGI, entonces lo que entrenó a Astra se convierte en el hardware del mundo post-AGI — y las empresas que compran chips para la próxima ronda de entrenamiento comprarán orientadas a ese benchmark. Las felicitaciones de Huang fueron, en ese sentido específico, también una declaración de producto. La declaración dependía de un número que la propia organización del benchmark midió de manera diferente.

Lo que muestra la verificación independiente — y lo que no

Al momento de publicación, Astra no aparece en el Artificial Analysis Intelligence Index ni en los rankings de Arena.ai — los dos sistemas de evaluación independientes más observados para modelos fronterizos. La verificación independiente para grandes lanzamientos fronterizos suele llegar en cuestión de días. La ausencia aquí no es evidencia de mal rendimiento. Significa que la validación externa que normalmente acompañaría a una afirmación de esta magnitud aún no se ha materializado.

El 62.7% de los creadores del benchmark no es una refutación. Una puntuación a ese nivel en ARC-AGI-3 — una prueba diseñada para resistir los trucos de optimización que inflaron benchmarks anteriores — es genuinamente sólida. Los predecesores de ARC-AGI-3 se saturaron: los modelos absorbían datos de entrenamiento similares a las preguntas de prueba y elevaban los números sin mejorar en razonamiento novedoso. ARC-AGI-3 cambió el diseño de las preguntas para requerir abstracción sobre el reconocimiento de patrones. Sesenta y dos punto siete por ciento en esa prueba, bajo el arnés de referencia, está muy por encima de cualquier cosa que existiera hace dos años.

Los investigadores que plantearon objeciones fueron precisos al respecto. La capacidad del modelo no era su objetivo. El salto del rendimiento a la declaración sí lo era. “Obtiene buenas puntuaciones en estos benchmarks” y “la AGI ha llegado” requieren un paso intermedio: una definición estable y consensuada de AGI frente a la cual se pueda medir la llegada. No existe tal definición en todo el campo. OpenAI tiene una interna. Según la propia definición de OpenAI, Astra podría calificar. Pero una empresa que mide su producto contra una definición que ella misma escribió es un tipo de resultado diferente al medido por un estándar externo.

La frase que no vino con una definición

La publicación de Huang no tenía salvedades. “La AGI ha llegado” es una declarativa — no “según algunas medidas” o “bajo ciertas definiciones”, sino una llegada limpia. La progresión de cuatro años que nombró — ChatGPT, o1, Astra — es real como trayectoria de capacidad. Cada modelo en la secuencia amplió lo que era posible. Enmarcar esa secuencia como un viaje con un punto final, y anunciar el punto final, hace una afirmación diferente: dice que la llegada es distinguible del viaje, que hay una línea en lugar de una pendiente, y que Astra la cruzó.

El número del benchmark detrás de esa afirmación era 62.7%. Las personas que construyeron la prueba lo publicaron. La pregunta que plantea — si la declaración de AGI es una medición o un movimiento de mercado — estaba allí el 6 de septiembre. La cobertura en gran medida la respondió sin preguntarla.

Etiquetas: , , , , ,

Discussion

There are 0 comments.