Ciencia

Meredith Whittaker: de encabezar la protesta en Google a blindar Signal contra la IA

Penelope H. Fritz
Añádenos en Google
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Nacimiento2000
OcupaciónPresidenta de la Signal Foundation
PremiosPremio Helmut Schmidt Future

El viernes, Signal activó una función que la mayoría de sus usuarios nunca notará. En los iPhone nuevos, la aplicación ahora impide que la IA Siri de Apple lea lo que aparece en pantalla dentro de un chat y bloquea las capturas de pantalla de forma predeterminada; en Android, cierra la ventana cada vez que Gemini, de Google, intenta mirar. Meredith Whittaker, presidenta de Signal, anunció el cambio personalmente y, en la misma publicación, admitió que no era suficiente. Los agentes que Apple, Google y Microsoft están integrando en sus sistemas operativos todavía pueden acceder a lo que se almacena en el dispositivo, y en una Mac Signal no puede detenerlos en absoluto. Ella lo calificó como una amenaza existencial para la aplicación que dirige.

La pelea le queda a la medida, y a la vez deja al descubierto el dilema que atraviesa su carrera. Whittaker pasó más de una década dentro de Google antes de convertirse en una de las críticas más agudas del modelo de negocios que la sostuvo. Hoy lidera un servicio de mensajería sin fines de lucro que se niega a recopilar datos, no vende nada y depende de donantes, pero que tiene que vivir en teléfonos fabricados por las mismas empresas cuyos productos de IA ella considera temerarios. Signal puede cifrar un mensaje de extremo a extremo. No puede cifrar el sistema operativo.

Su camino hacia la tecnología fue poco previsible. Whittaker estudió retórica y literatura inglesa en la Universidad de California en Berkeley y entró a Google en 2006, donde permaneció trece años. Fundó su grupo Open Research, que trabajó con académicos y desarrolladores de código abierto en la medición de la neutralidad de la red, la privacidad y la seguridad, y cofundó M-Lab, el Measurement Lab, una red abierta que se ha convertido en la mayor fuente pública de datos sobre el rendimiento de internet.

La medición le enseñó a desconfiar de las afirmaciones que llegan sin pruebas. En 2017 cofundó el AI Now Institute en la Universidad de Nueva York junto con la investigadora Kate Crawford, a raíz de un simposio organizado por la Casa Blanca. El instituto estudió lo que la inteligencia artificial les hace a las personas sobre quienes se aplica, y no lo que puede hacer en una demostración, y sus informes volvían una y otra vez a un mismo argumento: que el problema de fondo tenía menos que ver con un código sesgado que con quién es dueño de estos sistemas y hacia quién están apuntados. Más tarde ocupó la cátedra de investigación Minderoo en la NYU y fue directora de la facultad de AI Now; hoy es su asesora principal.

Ese argumento la puso en rumbo de colisión con su empleador. En 2018 redactó una petición contra el Proyecto Maven, un contrato del Pentágono en el que Google desarrollaba herramientas de visión artificial para el programa de drones de Estados Unidos. Más de tres mil empleados la firmaron y Google no renovó el contrato. Meses después fue una de las organizadoras principales de la Google Walkout, cuando más de veinte mil empleados abandonaron sus puestos tras conocerse que la empresa había pagado una indemnización de salida de 90 millones de dólares a Andy Rubin, un ejecutivo acusado de conducta sexual inapropiada. Whittaker contó después que Google tomó represalias al decirle que abandonara su trabajo en AI Now. Se fue en julio de 2019.

Ese mismo verano le dijo al Comité de Ciencia de la Cámara de Representantes que los sistemas de IA pueden afianzar los sesgos y pidió protecciones para los denunciantes en el sector tecnológico. A comienzos de 2020 fue más lejos ante el Comité de Supervisión de la Cámara: sostuvo que el problema del reconocimiento facial no era solo su precisión, sino el poder de quienes lo aplican sobre personas con menos poder, y pidió que se detuviera su uso. Desde noviembre de 2021 fue asesora principal en inteligencia artificial de la presidenta de la Comisión Federal de Comercio, Lina Khan.

Signal la contrató en septiembre de 2022 como su primera presidenta, un cargo creado junto con la dirigencia de la aplicación. Signal no tiene publicidad ni datos de usuarios que vender, y Whittaker ha dicho abiertamente que operarla cuesta unos 50 millones de dólares al año. Buena parte de sus primeros tiempos en el cargo se fue en explicar por qué un servicio de mensajería que casi no guarda información sobre sus usuarios igual necesita un gran equipo de ingeniería y donantes constantes, y por qué la alternativa es que se le pague con vigilancia.

Sus críticos señalan los límites de ese modelo. El protocolo de cifrado de Signal ya protege las conversaciones de WhatsApp, pero la aplicación sigue siendo una fracción del tamaño del producto de Meta construido sobre su criptografía, y la influencia de Whittaker frente a los gobiernos se apoya en gran medida en una sola amenaza: que Signal se irá de un país antes que debilitar su cifrado. La ha dirigido a la Unión Europea y, de nuevo en junio, al Reino Unido. La amenaza es creíble porque una aplicación financiada con donaciones no tiene accionistas a quienes complacer, pero también hace que la respuesta de Signal ante los reguladores se parezca más a un exilio que a una negociación. El episodio que le dio a la aplicación su mayor ola de atención mostró una brecha similar. Cuando en marzo de 2025 se descubrió que altos funcionarios estadounidenses habían discutido planes militares en un grupo de Signal al que se había sumado por error a un periodista, Whittaker defendió el cifrado como el estándar de oro de la comunicación privada y señaló que ninguna aplicación puede impedir que alguien agregue a la persona equivocada a un chat. Una publicidad de esa magnitud es difícil de rechazar y todavía más difícil de controlar.

Desde entonces, su foco pasó de los gobiernos a las empresas que fabrican los dispositivos. En Davos, en enero, calificó de peligrosos para los servicios cifrados a los agentes de IA integrados en los sistemas operativos, y advirtió que un sistema con acceso root puede ser secuestrado. En una entrevista con Bloomberg en junio dijo que los chatbots no son tus amigos y describió a un asistente con acceso a sus datos de pago y a su cuenta de Signal como una especie de puerta trasera. Esta semana, pruebas realizadas por Reuters con personal de Signal y de AI Now comprobaron que el agente Muse de Meta leía chats de Signal en Android a través del acceso a las notificaciones, y Whittaker calificó de tecnológicamente temerarios a los agentes con ese tipo de alcance.

En 2023, TIME la incluyó en su primera lista de las personas más influyentes en inteligencia artificial. En mayo de 2024 recibió en Hamburgo el Premio Helmut Schmidt del Futuro, otorgado por Die Zeit y sus socios por su trabajo en democracia y tecnología, y en julio de 2025 se incorporó al consejo de administración del grupo mediático alemán Hubert Burda Media.

Lo que ocurra ahora depende menos de Signal que de Apple, Google y Microsoft. Whittaker les pidió a las tres una vía documentada para que las aplicaciones puedan mantener a los agentes de IA lejos de sus pantallas y sus datos, y Signal dice estar cautelosamente optimista de que Google y Apple estén participando en el diálogo. Si la construyen, el bloqueo que activó esta semana se convertirá en un estándar de la industria. Si no, el servicio de mensajería más privado del mercado seguirá lanzando soluciones alternativas contra los teléfonos en los que funciona, y su presidenta seguirá diciéndolo en público.

Etiquetas: , , , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.