Demis Hassabis y quién debe pagar la seguridad de la IA: «La financiación tendría que ser sustancial y venir sobre todo de la industria»

Demis Hassabis ha pasado el año argumentando que los sistemas de IA más potentes deberían ser examinados antes de llegar al público, por un organismo independiente modelado según el ente regulador que vigila a los corredores de Wall Street. La pregunta más difícil no es si tal árbitro debería existir. Es quién paga por ello — y en una sola frase, el jefe de Google DeepMind también respondió eso.

“El financiamiento tendría que ser sustancial y probablemente provenir en su mayoría de la industria, con el fin de atraer talento técnico de clase mundial y proporcionar los recursos computacionales necesarios para pruebas a gran escala,”

Hassabis escribió esa línea en el ensayo marco que detalla su propuesta, citado por Malay Mail. Leído rápidamente, suena a responsabilidad: las salvaguardas cuestan dinero, y las empresas que construyen la tecnología deberían asumir el costo en lugar de dejar que el público financie la limpieza. Leído como mecanismo, es la línea de carga de todo el plan — la que decide a quién termina protegiendo el árbitro.

La tensión está dentro de la frase. Hassabis quiere que el organismo sea independiente. También quiere que esté financiado, “en su mayoría,” por la misma industria que juzgaría. Esas dos metas tiran en direcciones opuestas, y la historia del modelo que eligió muestra cuál tiende a ganar. La Autoridad Reguladora de la Industria Financiera, su plantilla, es pagada por las casas de bolsa que supervisa. La senadora Elizabeth Warren ha argumentado durante años que FINRA actúa “más en interés de las firmas de corretaje que pagan sus cuentas que de los inversores individuales que se supone debe proteger.”

La objeción no es marginal. Nader Henein, analista vicepresidente de Gartner, califica la autorregulación simplemente como “no viable,” porque la mayoría de los proveedores carecen de la capacidad para ello y el arreglo “necesariamente” genera conflictos de interés. El analista independiente Carmi Levy fue más allá, describiendo el plan como “una hoja de ruta egoísta para una industria empeñada en correr” adelante sin importar el daño. Incluso las voces comprensivas quieren un cortafuegos: Yoshua Bengio dice que entiende el pragmatismo pero insiste en “una hoja de ruta clara y precisa para transitar de un modelo voluntario a uno obligatorio.”

Nada de esto convierte a Hassabis en un actor de mala fe. Él dirige el laboratorio detrás de AlphaFold, el sistema que predijo las formas de las proteínas y cambió cómo se hace la biología — un historial que da peso real a sus advertencias sobre las capacidades fronterizas. Eso es exactamente lo que hace que la frase valga la pena detenerse. La voz técnica más creíble en la sala también es la que propone al árbitro, redacta sus reglas y organiza su presupuesto con las mismas empresas que se sentarían al examen. Sumisión voluntaria, una ventana de revisión corta antes del lanzamiento, dinero de la industria: cada concesión es razonable por sí sola, y juntas describen un organismo con el que los laboratorios podrían vivir cómodamente.

Un régimen de seguridad es tan independiente como su presupuesto. La frase que decidirá si este protege al público o a los laboratorios no es la que habla de probar modelos fronterizos. Es la tranquila sobre quién firma los cheques.

Etiquetas: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI