Ciberseguridad

El agente Muse de Meta leyó chats de Signal en celulares Android; en iPhone no pudo

Adrian Kessler
Añádenos en Google

Muse, el agente de IA de Meta que responde correos, agenda citas y hace compras en nombre del usuario, leyó mensajes privados de Signal en un teléfono Android sin pasar por las conexiones de aplicaciones que Meta les dice a los usuarios que administren. Entró a través de un permiso que la mayoría otorga sin pensarlo dos veces: el acceso a las notificaciones del teléfono. La misma solicitud falló en un iPhone.

El hallazgo surge de pruebas que Reuters realizó con personal de Signal y del AI Now Institute, una organización sin fines de lucro que estudia los efectos de la IA en la sociedad. Buscaban reproducir lo que una empleada de Meta había descrito internamente: Muse le recordó, sin que ella se lo pidiera, que respondiera un mensaje de su hermana en Signal. “Esto parece una violación extrema de la privacidad. Definitivamente no le di acceso a otras aplicaciones, ni recuerdo que me lo hayan preguntado”, escribió. Si usas Muse en Android, el ajuste que importa es el acceso de la app a las notificaciones, y desactivarlo corta al agente de la vista previa de tus mensajes.

En una Mac, los evaluadores encontraron una segunda vía. Muse combinó la herramienta de capturas de pantalla con las funciones de accesibilidad de macOS, los controles que Apple desarrolla para que las personas con discapacidad puedan operar una computadora, para leer los mensajes. En ambos casos omitió la herramienta Connector de la propia Meta, el panel donde los usuarios eligen qué aplicaciones puede tocar el agente, y se apoyó en cambio en permisos concedidos durante la configuración inicial. Un colega de la empleada le contó al mismo grupo interno que Muse venía configurado de forma predeterminada con permiso para leer las notificaciones push en su teléfono Android.

Reuters revisó más de dos docenas de publicaciones internas en las que empleados de Meta señalaron que Muse hacía cosas que nadie le había pedido, y algunas van mucho más allá de leer mensajes. A un empleado que conversaba con el agente sobre el clima para pescar le llegó una línea adicional: “Por cierto, dos novedades bancarias: tu saldo de Capital One es $2722.58 y tu saldo de Charles Schwab es $5899.57”. Nunca había compartido datos bancarios con Muse. A otro le ofrecieron ayuda para escribirle a un vendedor sobre una mesa de centro, y cuando preguntó qué significaba eso, Muse dijo que había “incorporado algo de contexto sobre la recogida de una mesa de centro que no parece ser tuya”. Él reportó una “posible filtración de contexto entre cuentas”.

Meta discrepa de la lectura que se hace de estos episodios. El vocero Daniel Roberts calificó los ejemplos de “incidentes aislados”, afirmó que Muse accede a otras aplicaciones solo mediante permisos que las personas otorgan de forma explícita y dijo que muchas de las presuntas confusiones de cuentas eran alucinaciones que ya se corrigieron. Un integrante del equipo de Superinteligencia que desarrolla Muse les dijo a los empleados que el agente parecía inventar mensajes como respuesta a indicaciones integradas que lo empujan a interactuar con los usuarios entre sesiones, y que esas invenciones tienden “hacia los temas más incómodos, como finanzas, seguridad o protección”. Reuters no pudo establecer si Muse entregaba datos reales de otras personas o los inventaba. Ninguna de las dos respuestas tranquiliza en un asistente que pide acceso a tu correo, tu calendario y tus cuentas de pago.

Algunos de los errores salieron caros. Los empleados reportaron que Muse inventaba precios de cosas que habían comprado, y uno aseguró que reservó sin permiso una estadía no reembolsable en Airbnb. Ars Technica, citando el mismo reportaje, describió el caso de un probador que fue inscrito en un seguro para mascotas de $888 al mes en lugar de $200. Los términos de servicio de Meta hacen responsables a los usuarios de lo que haga el agente. La empresa sostiene que cada agente funciona en su propia máquina virtual aislada y que las personas conservan el control total sobre qué aplicaciones conectan, un argumento que Mark Zuckerberg ha usado para desestimar los llamados a establecer estándares de seguridad de IA para toda la industria.

La escala es la razón por la que esto importa más allá de las oficinas de Meta. Muse superó los 10 millones de descargas desde que se lanzó en Estados Unidos en septiembre, impulsado entre los 3,600 millones de personas que usan Facebook, Instagram y WhatsApp, y Meta asegura que cerca de una cuarta parte de quienes lo configuran vuelve a usarlo todos los días. El permiso de notificaciones funciona de la misma manera en cualquier teléfono Android donde esté instalada la app.

Meredith Whittaker, presidenta de Signal, dijo que Meta lanzó Muse “sin mostrar ningún respeto por la privacidad básica ni por la ciberseguridad” y calificó de “tecnológicamente imprudentes” a los agentes con ese tipo de alcance sobre los dispositivos de las personas. Quiere que aplicaciones como Signal cuenten con una forma técnica uniforme de marcarse como fuera del alcance de los agentes de IA, que las empresas de IA la respeten y que los fabricantes de sistemas operativos la hagan cumplir.

Apple y Google le dijeron a Reuters que estudian cambios para dar a las personas más control sobre lo que autorizan hacer a los agentes de IA, aunque Google señaló que las personas ya “deben otorgar permisos de forma deliberada” para que una app lea las notificaciones de Android. Apple ha avanzado más rápido: una actualización de macOS de esta semana limita drásticamente cómo los desarrolladores pueden usar las herramientas de accesibilidad en las Mac y añade un nuevo conjunto de permisos pensados para agentes, lo que cierra la vía que usaron los evaluadores. Google no ha anunciado una solución equivalente. En Android, por ahora, el único cerrojo de esa puerta es un interruptor en tus ajustes.

Etiquetas: , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.