El CEO de OpenAI, Sam Altman, plantea tres finales para la IA y repite su idea de 2023

El director ejecutivo de OpenAI, Sam Altman, presentó a su equipo un mapa de cómo podría terminar la carrera hacia la superinteligencia, y lo más revelador es lo poco novedoso que resulta. De los tres posibles desenlaces que describió a los empleados, dos se parecen mucho a ideas que su propia empresa dejó por escrito hace años. Ninguna llegó a concretarse. La tercera, la que acaparó los titulares, la mencionó solo para descartarla.

Más allá de las etiquetas, todas las opciones responden a la misma pregunta: ¿quién controla la capacidad de cómputo que utilizan los modelos de frontera? Las declaraciones de Altman, reportadas por la prensa, también explican por qué esa pregunta se sigue dejando para después.

Lo que Sam Altman dijo al equipo de OpenAI sobre el desenlace de la IA

The Information fue el primero en informar sobre la presentación interna, con base en fuentes familiarizadas con el tema; después, The Decoder, Forbes y Latin Times también cubrieron el asunto. El relato se apoya en fuentes anónimas. La primera opción es un organismo internacional inspirado en el Organismo Internacional de Energía Atómica que haga cumplir normas de seguridad en los laboratorios que desarrollan modelos de frontera: inspeccionar sistemas, exigir auditorías y vigilar el uso de la capacidad de cómputo y la energía. Dos personas dijeron a The Information que Altman pareció respaldar esta propuesta.

A la segunda opción la llamó el «plan Demis», en referencia a Demis Hassabis, cofundador de Google DeepMind, quien hace alrededor de una década propuso crear una institución para la IA inspirada en el CERN. En la versión de Altman, los principales laboratorios se fusionarían en una sola entidad, o trabajarían bajo su paraguas, y esa entidad suministraría modelos a los países que colaboraran con ella.

La tercera es el «plan Eliezer», llamado así por Eliezer Yudkowsky, teórico de la seguridad de la IA. Un desarrollador llega primero a una IA capaz de mejorarse a sí misma y aprovecha el poder económico que obtiene para dejar a todos sus rivales sin capacidad de cómputo; según la frase que circuló, «derretiría las GPU de todos los demás». «Obviamente, me parece una idea terrible», habría dicho Altman, y agregó que la había incluido por «completitud».

OpenAI ya había escrito casi todo este menú en 2023

El organismo de vigilancia es la propuesta más antigua de la lista. En una publicación firmada por Altman, el presidente de OpenAI, Greg Brockman, y el entonces científico jefe, Ilya Sutskever, la empresa sostuvo que probablemente el mundo «con el tiempo necesitará algo parecido a un OIEA para los esfuerzos en torno a la superinteligencia»: una autoridad capaz de «inspeccionar sistemas, exigir auditorías» y restringir el despliegue por encima de cierto umbral de capacidad o de cómputo.

La misma publicación planteaba otras dos vías. Según el texto, los principales gobiernos «podrían crear un proyecto del que pasaran a formar parte muchas de las iniciativas actuales», una opción muy parecida a la fusión que Altman ahora atribuye a Hassabis. O bien, la industria «podría acordar colectivamente» que «el ritmo de crecimiento de las capacidades de la IA de frontera se limite a una determinada tasa anual».

Esta última propuesta es un límite de velocidad. Según The Decoder, Altman se quejó internamente de que hay muy pocas propuestas viables para poner un «límite de velocidad» al desarrollo de la IA. Su empresa publicó una. Lo que nunca creó fue una autoridad con poder para hacerla cumplir.

Por qué el organismo de vigilancia sigue en el papel: OpenAI dice que no puede bajar el ritmo

La explicación se dio en esa misma reunión. Según los reportes, Altman dijo al equipo que los dos primeros planes exigen una coordinación intensa y que OpenAI no puede darse el lujo de ceder terreno ahora, mientras tanto la empresa como Anthropic se encaminan a salir a bolsa. Crypto Briefing explicitó la lógica de los inversionistas: las compañías que se preparan para cotizar en bolsa refuerzan su ventaja; no se la entregan a un consorcio.

Un OIEA para la IA también necesitaría que Washington y Pekín aceptaran inspectores en sus laboratorios más delicados. Por ahora, señala Forbes, incluso una propuesta de Estados Unidos para que los dos países se notifiquen mutuamente sobre incidentes peligrosos relacionados con la IA sigue siendo apenas un borrador, no un acuerdo.

Lo que los laboratorios están creando en cambio es una FINRA, no un OIEA

El proyecto de gobernanza que realmente está en marcha no coincide con ninguna de las tres opciones de Altman. OpenAI, Google y Anthropic trabajan en un grupo de autorregulación, la Standards Authority for Frontier AI, inspirado en FINRA, el organismo privado que supervisa a los corredores de bolsa estadounidenses. Latin Times describe un marco para realizar pruebas antes del lanzamiento, reportar incidentes y acreditar auditores, pero sin facultades vinculantes para hacer cumplir sus decisiones; además, los tres laboratorios todavía no se ponen de acuerdo sobre quién debería probar los nuevos modelos. Mark Zuckerberg, de Meta, y Jensen Huang, de Nvidia, sostienen que este tipo de reglas sirve sobre todo para proteger a las empresas ya establecidas, y una demanda antimonopolio en Estados Unidos ya alega que la coordinación en materia de seguridad entre los laboratorios equivale a un cártel.

También conviene revisar las etiquetas. La imagen original de Yudkowsky, «quemar todas las GPU», era un experimento mental sobre la magnitud de la acción que tendría que tomar un sistema alineado para detener una carrera irresponsable; él escribió que no es algo que realmente quisiera que se hiciera. El «plan Eliezer» de Altman convierte ese freno de emergencia en una victoria monopólica. Según el relato de The Decoder sobre el informe, una fuente dijo que el comentario se interpretó como un dardo dirigido a un competidor, por los vínculos de Yudkowsky con Anthropic.

Según The Information, OpenAI planea decidir en el plazo de un año qué camino tomar. El organismo de estándares de la industria apunta a ponerse en marcha a finales de 2026 o principios de 2027.

Hasta que OpenAI elija, seguirá avanzando por el único camino que no figuraba en su lista: la propia carrera.

Etiquetas: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky