Ciberseguridad

Con Claude bastaron unos días para entrar en OpenAI, y el foco recae en Anthropic

Adrian Kessler
Añádenos en Google

Un pequeño equipo apuntó el modelo más nuevo de Anthropic hacia la puerta principal de OpenAI y entró sin problemas. La versión que la mayoría de la gente está leyendo — astutos externos avergonzando al creador de ChatGPT — se equivoca de tema. La intrusión no dependió de nada que OpenAI hubiera olvidado parchear. Dependió del momento en que Anthropic lanzó un Claude más capaz. Eso es lo que vale la pena considerar: un trabajo que se había estancado durante días se resolvió por sí solo una vez que un nuevo buque insignia entró en funcionamiento.

Las personas involucradas no eran criminales. Investigadores de la startup de seguridad Hacktron trabajaron dentro del propio programa de recompensas por errores de OpenAI, encadenaron un par de vulnerabilidades web poco llamativas, llegaron a las cuentas de empleados de OpenAI y alcanzaron un repositorio interno de código — luego se detuvieron, reportaron lo que encontraron y recibieron una recompensa modesta. Dejaron una marca inofensiva como prueba y no fueron más allá. Visto como un delito, es un no-evento. Visto como una prueba de capacidad, es una bengala que se enciende.

Este es el mecanismo que la cobertura de prensa pasó por alto. El equipo ejecutó primero el trabajo en Claude Opus 4.8, la versión ajustada para tareas de seguridad, y se estancó en repetidas sesiones. Luego Anthropic lanzó Opus 5. “Opus 4.8 tuvo dificultades en varias sesiones para producir un exploit funcional”, escribió el equipo de Hacktron. “A las pocas horas del lanzamiento de Opus 5, le dimos el mismo problema y lo logró”. VentureBeat reportó que el modelo más nuevo escribió un exploit funcional para un objetivo de chip complicado en cuestión de horas. Nada en las defensas de OpenAI cambió en esa ventana. El modelo sí.

Ese es precisamente el tipo de salto — un salto en lo que un usuario común puede hacer con una suscripción estándar — que la propia maquinaria de seguridad de Anthropic está diseñada para detectar y contener. La compañía mantiene su modelo cibernético más capaz, Mythos, detrás de controles de exportación y una breve lista de defensores verificados, y lo llama el modelo de seguridad más fuerte que ha construido. Nada de eso importó aquí. El nivel disponible públicamente fue suficiente. Como dijo Matt Fredrikson, director ejecutivo de Gray Swan, a TechCrunch: “Por $200 al mes, cualquiera puede usar estas herramientas y hackear una empresa como OpenAI”.

Aquí es donde la responsabilidad recae sobre Anthropic en lugar de su rival. Anthropic ha construido toda su identidad en torno a la precaución — su director ejecutivo, Dario Amodei, habla abiertamente sobre los “peligros reales” de la tecnología y ha presionado a la industria para que se desacelere. Un modelo de lanzamiento general que reduce de forma mensurable el listón para irrumpir en un laboratorio competidor es un contrapeso incómodo para ese mensaje. Al pedirle cuentas, la compañía no dijo nada; CBS News reportó que Anthropic no respondió a una solicitud de comentarios. OpenAI, por su parte, agradeció a los investigadores, redujo los permisos que los atacantes habían abusado y revocó las sesiones afectadas.

Los detalles son casi mundanos. La entrada fue una biblioteca de procesamiento de imágenes desactualizada incluida con el software Discourse que ejecuta el foro comunitario de OpenAI; un segundo desliz en cómo se definieron los tokens de inicio de sesión permitió a los investigadores montar una sesión comprometida en las cuentas de empleados de ChatGPT y Codex, y luego al código privado. Toda la cadena, desde el primer punto de apoyo hasta el acceso al repositorio, tomó menos de tres días. OpenAI pagó $6,500. El equipo dice que gastó menos de $3,000 en tiempo de Claude durante todo el esfuerzo — dos meses de trabajo, la mayor parte humana, comprimidos al final en una máquina que ya no necesitaba a un especialista.

El recurso escaso que solía proteger un objetivo nunca fue el parche. Fue el experto que podía encontrar las fallas, soldarlas y ver el camino a seguir — y los meses que eso tomaba. Esa experiencia acaba de volverse barata. Esta vez, el equipo que llegó al código de OpenAI presentó un informe y aceptó la recompensa. El próximo que supere el mismo listón, con la misma suscripción, no tiene ninguna obligación de hacerlo.

Etiquetas: , , , , ,

Añádenos en Google

Discussion

There are 0 comments.