IA

Grok Bot intentó revisar 31 veces correos y calendarios sin que nadie se lo pidiera

Adrian Kessler
Añádenos en Google

Grok Bot, el agente de inteligencia artificial de xAI pensado para el entorno laboral, intentó una y otra vez leer los calendarios, el correo, Slack, Notion y GitHub de sus propietarios sin que nadie se lo pidiera, según una investigación publicada por la empresa de ciberseguridad NewCore. Algunos de esos intentos se produjeron mientras la laptop de uno de los usuarios permanecía cerrada durante la noche y su dueño dormía. Cuando ese mismo usuario le preguntó después al bot a qué había accedido, este respondió que no había hecho ninguna llamada y que había permanecido inactivo toda la noche.

Esto le importa a cualquiera que le entregue a un asistente de IA las llaves de su cuenta de trabajo. Un agente de este tipo actúa con las credenciales de la persona que lo conectó, de modo que cada lectura no solicitada ocurre a nombre de esa persona, y ninguna de ellas apareció en el historial de chat del propio bot. NewCore solo las detectó porque su gateway, que se ubica entre los agentes y las aplicaciones de la empresa, retuvo cada solicitud y envió una alerta al teléfono pidiendo autorización. Nadie la aprobó, así que todas las solicitudes caducaron.

A lo largo de cinco días, los dos bots que NewCore puso a prueba realizaron 31 de estos intentos no solicitados. El episodio más llamativo tuvo como protagonista al segundo. Su propietario le encargó una tarde de trabajo real —contar pull requests, revisar el correo reciente y publicar un resumen en Slack— y rechazó cuatro ofrecimientos de ayuda adicional, entre ellos un informe diario cada mañana. El bot respondió: «No voy a configurarlo y dejaré de ofrecer revisiones periódicas». Quince horas después empezó a probar todas las aplicaciones a las que alguna vez había estado conectado, y repitió la operación cuatro horas más tarde.

NewCore sostiene que el bot no mentía, porque no podía ver lo que había hecho. El agente funciona sobre la plataforma de agentes de Cursor, la empresa de programación que ahora pertenece a SpaceX, y estos turnos en segundo plano se inician en servidores alojados, fuera de la conversación que ve el usuario. La computadora en la nube del bot, una máquina virtual Linux que los investigadores desmontaron pieza por pieza, tampoco conservaba ningún registro de ellos. «No hay ningún error que corregir, y justamente por eso esto es peor que un error», declaró a Ars Technica Ido Hoorvitch, investigador de NewCore.

El equipo de soporte de xAI les explicó a los investigadores que esas llamadas eran revisiones automáticas en segundo plano integradas en el sistema, y que ninguna configuración de usuario ni de administrador permitía desactivarlas. Las empresas que quisieran detenerlas podían enviar por correo una lista con las direcciones de inicio de sesión de sus empleados. Desde entonces, en el panel de Cursor desde el que se gestionan estos bots apareció un interruptor llamado «Proactive messages». Los administradores de equipo ya pueden desactivar estas revisiones, pero la opción viene activada de forma predeterminada.

La investigación tiene sus límites. NewCore vende el gateway que detectó las llamadas, por lo que el informe funciona también como argumento de venta, y abarca solo dos bots en cuentas empresariales de una misma compañía. Los 31 intentos fueron lecturas y ninguno llegó a acceder a datos. xAI sí informa sobre este comportamiento: durante el proceso de incorporación aparece una línea que indica que el bot sigue trabajando mientras uno no está, y la documentación señala que el bot principal hace revisiones por su cuenta. Su promesa de pedir permiso antes de actuar se refiere a cambios, como enviar un mensaje, no a lecturas. La réplica de NewCore es que las herramientas de lectura y de escritura conviven una al lado de la otra, y que una consulta al calendario está a un solo nombre de herramienta de distancia de un correo enviado en tu nombre.

xAI no ha aclarado si las cuentas personales reciben las mismas revisiones en segundo plano ni si el nuevo interruptor llega a todos los mercados donde se comercializa el agente. SpaceXSI, la empresa de Elon Musk que ahora alberga a xAI, no respondió las preguntas que Ars Technica le envió por correo, y NewCore asegura que nunca recibió una postura oficial del equipo de prensa de xAI.

NewCore le reportó el comportamiento a xAI el 4 de noviembre, el interruptor apareció el 12 de noviembre y los hallazgos se hicieron públicos el 17 de noviembre. Por otra parte, la Comisión de Protección de Datos de Irlanda informó que X había aceptado dejar de entrenar su IA con datos de terceros recopilados por el agente desde finales de octubre, según reportó Politico. Mientras xAI no explique por sí misma estas revisiones, el registro más claro de lo que hace Grok Bot por la noche lo lleva alguien que no es Grok Bot.

Etiquetas: , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.