IA

Mistral Large 4 es gratis y correrlo en casa pide una Mac de 22,299 dólares

Adrian Kessler
Añádenos en Google

Mistral publicó los pesos completos de Mistral Large 4, el modelo al que apoda Le Chonk, para que cualquiera pueda descargarlo, modificarlo y ejecutarlo en su propio hardware. El laboratorio francés afirma que ahora es el modelo abierto más potente para escribir código y realizar tareas de seguridad defensiva, como reproducir una falla de software y luego corregirla. Para quienes esperan ejecutarlo en casa, el obstáculo es su tamaño.

Le Chonk tiene cerca de un billón de parámetros, de los cuales 49.000 millones se activan por cada palabra que genera. Incluso las versiones más comprimidas —las compilaciones de 2 bits creadas por el equipo de llama.cpp y Unsloth— necesitan una sola máquina Apple Silicon Ultra con 512 GB de memoria unificada, según Hugging Face. La única Mac que Apple vende con tanta memoria es una Mac Studio con el chip M5 Ultra, y 9to5Mac informa que, configurada así, cuesta US$22,299 en Estados Unidos. Para ejecutarlo de cualquier otra forma se necesitan varias tarjetas gráficas de gama alta trabajando en conjunto.

La apuesta de Mistral por este modelo se basa en el código. La compañía afirma que obtiene un 41 % en Terminal-Bench 4.0, una prueba de agentes de IA que trabajan en la línea de comandos, el mejor resultado entre los modelos abiertos. También sostiene que iguala a GLM-5.3 en el índice de agentes de programación de Artificial Analysis, pero usa un 47 % menos de tokens por tarea, lo que reduce el costo de ejecución. En evaluaciones a ciegas y comparativas de Surge, quienes calificaron los resultados prefirieron su código al de GLM-5.3, Kimi K3 y DeepSeek V4.1 Flash, y solo ubicaron por encima a Claude Opus 5.5, de Anthropic.

La propuesta en materia de seguridad está dirigida a quienes defienden sistemas. Hugging Face afirma que el modelo obtuvo un 82 % en una prueba de Artificial Analysis que pide reproducir una vulnerabilidad real en software de código abierto y luego corregirla. También señala que Mistral informa que varios modelos cerrados de frontera obtienen resultados cercanos a cero en esa prueba porque se niegan a intentarlo. Un banco o una agencia gubernamental puede ejecutar el modelo en sus propios servidores, alimentarlo con su propio código y sus registros de fallos, y seguir usándolo si un proveedor cambia sus condiciones. “La IA va a ser como la electricidad. No quieres vivir en un mundo en el que tu vecino pueda cortarte la electricidad de un día para otro”, dijo Pierre Stock, vicepresidente de ciencia de Mistral, a periodistas, según Wired.

La mayoría de esas cifras proviene de la propia Mistral y de pruebas que la compañía eligió; las evaluaciones externas apenas comienzan. En el índice general de inteligencia de Artificial Analysis, Hugging Face lo ubica en quinto lugar entre los modelos abiertos, no en el primero. El argumento de seguridad también tiene dos caras. Mistral escribió que, al observar el tráfico en vivo durante la vista previa, detectó “un potencial para facilitar ataques reales” y está reforzando sus barreras de protección. Sin embargo, cualquiera puede descargar y ajustar los pesos públicos, incluidos los atacantes. “Está claro que es una tecnología de doble uso”, dijo a Wired Rafe Pilling, director sénior de inteligencia de amenazas de Sophos.

Usarlo en casa también implica concesiones, incluso si se tiene la Mac adecuada. Hugging Face ejecutó la versión de 2 bits en una Mac Studio M3 Ultra más antigua y obtuvo unos 15 tokens por segundo: suficiente para conversar, pero lento para tareas largas de programación. Al usar cuatro tarjetas Nvidia RTX 6000 Pro con documentos muy extensos, la velocidad de salida bajó a unos 3 tokens por segundo. Además, reducir el modelo a 2 bits disminuye su precisión frente a la versión completa que Mistral evaluó en sus pruebas.

Los pesos están disponibles para descarga en Hugging Face en todo el mundo bajo la Mistral Ecosystem Open-Weight License, una licencia MIT modificada que permite el uso gratuito, el ajuste fino y la creación de productos comerciales, con una excepción: las empresas que ofrezcan el modelo como servicio alojado necesitan una licencia comercial aparte de Mistral. El resto también puede usarlo a través de la API de Mistral, a US$0.70 por cada millón de tokens de entrada y US$2.10 por cada millón de tokens de salida, o mediante OpenRouter y Microsoft Foundry. Mistral publicó una versión preliminar a principios de octubre y los pesos finales el 29 de octubre. Apple indica que las Mac Studio encargadas con 512 GB se enviarán entre fines de noviembre y principios de diciembre.

“Una vez que publicas los pesos como código abierto, están por todo internet. Es imposible bloquear el acceso”, dijo Stock a Wired. Para quienes no tienen una computadora de US$22,299, el límite es el precio de la memoria.

Etiquetas: , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.