Ciberseguridad

OpenRouter sacó a tres proveedores de IA tras descubrir meses de robo de prompts

Adrian Kessler
Añádenos en Google

OpenRouter, el servicio que muchas aplicaciones de IA usan para enviar sus prompts al proveedor de modelos más barato o más rápido, retiró de su plataforma a tres de esos proveedores y quitó la etiqueta de Zero Data Retention (retención cero de datos) a más de cien endpoints. El detonante fue un experimento que plantó credenciales falsas en prompts y luego observó quién intentaba usarlas. Algunos de los prompts filtrados estaban marcados para que nunca se almacenaran.

Si usas un chatbot, un asistente de programación o una herramienta de redacción construidos sobre el modelo de otra empresa, tu texto puede pasar por varias compañías antes de que llegue una respuesta, y cada una de ellas puede leerlo completo. OpenRouter asegura que los hallazgos no mostraron ninguna vulneración de sus propios sistemas. Los puntos débiles estaban más abajo en la cadena, en las empresas que realmente ejecutan los modelos.

La investigación proviene de Dragos, una firma de seguridad cuyo director de investigación, HD Moore, encabezó el trabajo. Durante cinco meses, su equipo envió cerca de dos millones de prompts, cada uno con un enlace web, una contraseña de servidor o una clave de Amazon Web Services que no existía en ningún otro lugar. Un secreto plantado solo puede conocerse a partir del prompt que lo contenía, así que cualquier uso de uno demuestra que alguien leyó ese prompt. Los primeros tokens se usaron en cuestión de días.

El hallazgo más grave fue un robo directo. Unos atacantes habían vulnerado a tres proveedores de inferencia, y ninguno de los tres se enteró hasta que los investigadores se lo dijeron. En el caso más grande, todas las solicitudes enviadas a un proveedor durante unas pocas ventanas breves fueron copiadas, incluidas las que el proveedor rechazó antes de que se ejecutara cualquier modelo, lo que coloca al ladrón en la puerta de entrada y no en lo profundo del sistema. Las claves de AWS robadas fueron probadas, a veces en cuestión de horas, y luego se usaron para rastrear almacenamiento y bóvedas de secretos a lo largo de decenas de miles de llamadas a la API. Algunas de las solicitudes robadas llevaban la marca de retención cero.

Otras filtraciones no necesitaron una intrusión. En un mercado de reventa, los vendedores ofrecían modelos populares al precio más bajo, activaban el registro de solicitudes y se quedaban con todo lo que pasaba por ahí. Una persona, desde una conexión doméstica en Francia, tomó contraseñas de dos prompts e intentó iniciar sesión como root por SSH, escribiendo cada intento a mano. Por otra parte, un laboratorio de IA chino accedió a los enlaces secretos de más de la mitad de los prompts enviados a sus modelos, incluidos cerca de dos tercios de los marcados como sin recopilación de datos, y los proveedores estadounidenses que revenden sus modelos alimentaron al mismo rastreador. Uno de los enlaces apareció en un chat de trabajo de Feishu, abierto desde seis dispositivos en Pekín y Shanghái, 24 días después de una sola solicitud.

Tres proveedores han publicado comunicados. Phala indicó que un atacante tomó el control de uno de sus servidores de inferencia y podía ver las solicitudes mientras se procesaban. Together AI señaló que un agente de programación con IA subió una credencial a un repositorio público de GitHub, lo que permitió a un intruso descargar muestras almacenadas de prompts y probar las contraseñas que contenían; cinco de ellas eran el cebo de los investigadores. Novita explicó que un error de enrutamiento envió algunas solicitudes de MiniMax al propio servicio de MiniMax.

La limpieza tiene límites claros. OpenRouter no ha nombrado a los tres proveedores que eliminó, Dragos no ha nombrado a los tres que encontró vulnerados, y ninguno ha dicho si se trata de las mismas empresas. Según los investigadores, uno de los proveedores vulnerados todavía no había revelado públicamente su incidente. Además, retirar a un proveedor no puede deshacer la copia de prompts que ya ocurrió: las claves y los enlaces plantados seguían usándose semanas después de los primeros robos. Y quienes usan una aplicación construida sobre estas pasarelas normalmente no tienen forma de saber qué proveedor manejó su texto.

El consejo de Moore parte de una limitación: una marca de privacidad solo obliga al primer salto, y los agentes de IA enviarán todo lo que puedan leer, credenciales incluidas. El autoalojamiento es la única configuración en la que ningún tercero lee un prompt. Ir directamente a un solo proveedor importante deja un único contrato y una única política de privacidad por revisar, y los usuarios de enrutadores deberían elegir ellos mismos los proveedores de origen en lugar de aceptar el grupo más barato.

Dragos publicó sus hallazgos el 19 de noviembre. OpenRouter envió correos a los clientes afectados y publicó su aviso del incidente durante el fin de semana siguiente, y Phala pide a quien haya enviado secretos a un modelo de DeepSeek a través de la pasarela entre el 21 de octubre y el 8 de noviembre que los rote. OpenRouter dice que está incorporando a su propia plataforma las pruebas con prompts trampa de los investigadores para que las verificaciones se ejecuten de forma continua, y que los endpoints retirados recuperarán la etiqueta de retención cero solo después de ofrecer garantías y superar una validación. Dragos trabaja ahora con una docena de proveedores.

Como lo resumió Moore, el destino de tus prompts es una decisión, “y si no la tomas tú, el precio más bajo la tomará por ti”.

Etiquetas: , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.