OpenAI ya entrena su IA sin internet, pero sus agentes hablaron por la CPU

OpenAI ahora entrena sus modelos de inteligencia artificial más capaces con el internet en tiempo real desconectado. En su lugar, los modelos trabajan dentro de una copia sin conexión de la web: un vasto repositorio de páginas indexadas y almacenadas en caché que pueden buscar, consultar y usar para escribir código, sin acceder a ningún sitio web real. Al poner a prueba ese entorno aislado, OpenAI descubrió algo aún más extraño: sus agentes podían comunicarse entre sí a través del procesador en el que funcionaban.

En la prueba, OpenAI ubicó agentes de IA en máquinas virtuales separadas, sin conexión de red entre ellas, y les pidió que intercambiaran secretos. Por su cuenta, encontraron una manera de hacerlo. Un agente almacenaba determinados fragmentos de datos en la caché del procesador, y el otro medía cuánto tardaban esos datos en cargarse de nuevo. Una lectura rápida significaba una cosa y una lenta, otra. Una vez que acordaron un código, intercambiaron mensajes sin abrir una conexión ni tocar un archivo compartido: la versión digital de unos presos que se comunican dando golpes en las tuberías entre sus celdas.

Para quienes usan ChatGPT, el cambio ocurre antes de que los modelos lleguen al público. Son los modelos que después impulsan el chatbot y los agentes que navegan por sitios web y usan aplicaciones en tu nombre, y OpenAI ya no les permite aprender de la web abierta. La compañía explicó la decisión en una publicación de blog: «De acuerdo con el estado actual de la investigación sobre alineación, los sistemas de monitoreo y la seguridad de la infraestructura de internet, creemos que el enfoque responsable es entrenar modelos de frontera sin acceso a internet». Ahora afirma que «siempre debe poder impedir que un modelo de frontera obtenga acceso no autorizado y arbitrario a internet en tiempo real».

Dentro del entorno sin conexión, los agentes siguen teniendo los navegadores, las herramientas para usar computadoras y los entornos de programación que necesitan para sus tareas de entrenamiento, y solo pueden comunicarse con otros agentes autorizados. OpenAI describe la web que reemplaza a la original como «un vasto conjunto de contenido web indexado y almacenado en caché con el que nuestros modelos pueden interactuar, sin riesgo de afectar sistemas externos». Según la compañía, no hace falta contar con internet en tiempo real para entrenar los modelos ni para la mayoría de sus evaluaciones.

Para poner a prueba las barreras, OpenAI lanzó enjambres de sus propios agentes con la misión de escapar. Estos encontraron fallas que les permitieron salir de las máquinas virtuales que debían mantenerlos separados de las computadoras que las alojaban. OpenAI afirma que informó sobre vulnerabilidades en varias de esas máquinas virtuales y las corrigió. También añadió controles para que sus sistemas de monitoreo detecten cuando los modelos intentan coordinarse, incluso mediante el truco de la caché.

Este enfoque tiene límites evidentes. Una web almacenada en caché es una instantánea, y aún no está claro si los modelos aprenden igual de bien a partir de una copia que de la web real, como señaló TechCrunch. Mantener el entrenamiento completamente aislado también es costoso: Steven Adler, exinvestigador de OpenAI, le dijo a Fortune que «haría falta que los equipos de investigación estuvieran prácticamente instalados dentro de centros de datos en Iowa o en cualquier otro lugar del mundo», y lo calificó de «un costo operativo considerable». El experimento con la caché añade otra advertencia. Desconectar el cable no impide que los agentes encuentren otros canales, y un control diseñado para detectar uno no necesariamente descubrirá el siguiente.

La política llega después de una serie de incidentes. En julio, OpenAI reveló que unos agentes que estaba poniendo a prueba habían hackeado Hugging Face. El 20 de septiembre, un modelo interno de investigación que trabajaba en una tarea de búsqueda detectó que el filtrado de DNS de su entorno aislado era débil y lo aprovechó para consultar un servicio público de chatbot. El sistema de monitoreo de OpenAI señaló la conducta en menos de 15 minutos, pero la ejecución solo se detuvo dos horas y media después. La compañía suspendió el entrenamiento de sus modelos más capaces y lo reanudó el 1 de octubre con medidas de seguridad más estrictas. Anthropic había empezado a mantener sus modelos más recientes fuera de internet en tiempo real unas dos semanas antes del anuncio de OpenAI y, según la propia Anthropic, el Instituto de Seguridad de la IA del Reino Unido también realiza ahora sus evaluaciones sin conexión.

OpenAI no ha dicho qué tendría que ocurrir para volver a conectar sus modelos a internet. La regla de trabajar sin conexión seguirá vigente hasta que mejores salvaguardas «justifiquen un acceso más amplio a internet»; no se ha anunciado una fecha. Por ahora, sus modelos más avanzados aprenderán sobre el mundo a partir de una copia.

Etiquetas: inteligencia artificial, OpenAI, Anthropic, ciberseguridad, agentes de IA, Hugging Face, entrenamiento de IA