OpenAI y Anthropic piden frenar la IA: el freno es su gran ventaja

Lo llamativo del repentino entusiasmo por frenar la inteligencia artificial no es que quienes la construyen ahora quieran poner frenos. Es que los frenos que describen son solo aquellos que ellos pueden costear cómodamente. Cuando los líderes de los laboratorios de IA más valiosos coinciden, casi al unísono, en que el campo avanza demasiado rápido, el argumento de seguridad es real — y también lo es el argumento de negocio que yace silenciosamente debajo.

El detonante fue una llamada de Dario Amodei, de Anthropic, para “marcar el ritmo de la frontera”: frenar la velocidad a la que mejoran las capacidades de los modelos, instalar evaluadores independientes dentro de los laboratorios y lograr que los principales actores de los países democráticos acuerden estándares comunes de seguridad. Él enmarcó el rechazo público hacia la IA como, en sus palabras, una crisis de confianza. En un corto lapso, Sam Altman dijo estar de acuerdo y que OpenAI ya había estado discutiendo exactamente esto; Elon Musk ofreció un respaldo de dos palabras: “Dario tiene razón”. La cobertura lo trató como una conciencia tardía que llegaba de golpe.

Lee el mismo plan como analista, no como oficial de seguridad, y aparece una segunda imagen. Los revisores externos integrados, las pruebas de alineación certificadas, los marcos de riesgo publicados y la notificación de incidentes no son solo salvaguardas; son costos fijos. Y los costos fijos son el arma competitiva más confiable que posee una gran empresa, porque recaen por igual sobre todos en dólares y sobre nadie por igual en dolor.

Considera la aritmética. Los mayores proveedores de infraestructura de nube e IA de EE. UU. se han comprometido a algo del orden de 660 a 690 mil millones de dólares en gasto de capital para el próximo año, con Amazon cerca de 200 mil millones y Alphabet, Meta y Microsoft cada uno en los cientos de miles de millones o acercándose a esa cifra. Frente a balances como estos, un régimen de cumplimiento — un equipo de evaluadores integrados, un marco de seguridad anual, una multa que California limita a un millón de dólares por violación — es un error de redondeo. Para una startup que intenta llegar a la frontera, es toda la pista de despegue.

Esto ya no es hipotético. La SB 53 de California ya define a un “gran desarrollador de frontera” mediante dos criterios: modelos entrenados por encima de un umbral de cómputo muy alto y más de medio billón de dólares en ingresos. Esas empresas deben publicar marcos de seguridad y reportar incidentes críticos en plazos estrictos. En Europa, el Artículo 55 de la Ley de IA exige que los proveedores de los modelos de propósito general más capaces realicen pruebas adversariales, mitiguen riesgos sistémicos y reporten incidentes graves. El piso se está vertiendo; la pregunta es quién es lo suficientemente alto como para pararse en él sin notarlo.

La señal más clara es quién no pide frenos. El plan nunca nombra a sus perdedores naturales, pero son fáciles de identificar: los laboratorios cuyo modelo completo es regalar los pesos — Meta, la francesa Mistral, la china DeepSeek y Alibaba. Como lo expresó un análisis disidente, estos son “los cuatro nombres que el ensayo nunca imprime”, los creadores de los modelos gratuitos que un cliente que paga podría descargar en lugar de alquilar una API. No puedes certificar la alineación de un modelo que cualquiera puede modificar en una tarde, por lo que un régimen de estándares dirigido a la frontera impacta más fuerte en los pesos abiertos. Y el campo abierto está ganando precisamente a los usuarios que los incumbentes preferirían conservar: un modelo abierto chino, Qwen, cuenta descargas en los miles de millones, mientras que Llama de Meta cuenta en los cientos de millones.

Nada de esto es nuevo. Es el movimiento más antiguo en cualquier industria regulada: el jugador establecido da la bienvenida al libro de reglas que puede pagar, porque un costo que es trivial en sus libros es un muro en el de un rival. Los economistas tienen un nombre claro para esto, captura regulatoria, y no requiere mala fe. Un argumento de seguridad puede ser completamente sincero y aun así funcionar como una barrera de entrada. Aquí, ambas cosas son ciertas a la vez.

Para Europa, lo que está en juego es más agudo de lo que parece. El único desafiante creíble de la frontera en el continente, Mistral, es precisamente un laboratorio de pesos abiertos, y sus clientes españoles y europeos en general — las startups que construyen productos sobre modelos baratos y modificables — son quienes pierden más si el piso de cumplimiento global se escribe alrededor de cuatro incumbentes estadounidenses. Un libro de reglas diseñado en San Francisco y ratificado en Bruselas puede proteger al público y, al mismo tiempo, subir la escalera detrás de los líderes.

Así que bienvenido el giro hacia la seguridad: los riesgos son reales y los evaluadores son necesarios desde hace tiempo. Pero observa lo que viene después. Si las reglas finales se asientan exactamente donde los cuatro gigantes pueden pagar y nadie más pequeño puede, la desaceleración no habrá marcado el ritmo de la frontera tanto como la habrá cercado.

Etiquetas: OpenAI, Anthropic, AI regulation, Mistral, open-weight models