IA

Nvidia PAIR junta las GPU de tu casa y dobla la velocidad de los agentes de IA, gratis

Susan Hill

Una nueva herramienta gratuita de Nvidia llamada PAIR — Personal AI Router — enruta las tareas de agentes de IA a través de múltiples computadoras en tu red doméstica, tratando tu colección de PCs gaming, estaciones de trabajo e incluso Macs como un clúster de inferencia unificado. La idea es simple: la mayoría de las computadoras con capacidad de IA están inactivas la mayor parte del tiempo, y las cargas de trabajo locales de IA se construyen cada vez más en torno a agentes que generan docenas de subtareas independientes a la vez. PAIR conecta los ciclos sobrantes.

El software funciona como un proxy transparente sobre Ollama y LM Studio, las dos herramientas de inferencia local más populares, por lo que las configuraciones existentes no requieren cambios de código. Una vez instalado en cada máquina, PAIR usa mDNS — el mismo protocolo que tu impresora usa para aparecer en la red — para descubrir dispositivos compatibles automáticamente. Un agente principal envía su trabajo como de costumbre, y PAIR decide qué máquina maneja cada subtarea según los modelos que cada máquina tenga disponibles. No se requiere configuración idéntica entre máquinas: una PC gaming con Llama 3.3 y una laptop con Mistral pueden cooperar en la misma tarea.

El benchmark que publicó Nvidia hace concreta la diferencia: una tarea de cinco subagentes que tomó 18 minutos en una sola laptop RTX Spark se completó en 8 minutos 48 segundos en un clúster de tres dispositivos. Eso es aproximadamente una aceleración de 2× sin tocar una línea de código ni pagar por cómputo en la nube. La ganancia escala con la cantidad de máquinas y la naturaleza de la carga de trabajo — las tareas que se dividen en muchas piezas paralelas se benefician más.

La privacidad es el otro punto de venta, y es el más duradero. Cada indicación, archivo y fragmento de contexto del agente permanece en tu red doméstica. Nada se envía a un servicio de inferencia en la nube; no hay clave API, ni medición de uso, ni empresa que reciba tus consultas. Para cualquiera que ejecute agentes sobre documentos sensibles — borradores legales, notas médicas, correspondencia personal — esa distinción importa más que las cifras de los benchmarks.

Las advertencias son reales. PAIR no ofrece calidad de servicio garantizada: si la máquina en la que confiabas activa su GPU para un juego o una exportación de video, PAIR redistribuye esa carga de trabajo a lo que esté disponible. La herramienta está diseñada abiertamente para tareas de larga duración donde el plazo es flexible, no para aplicaciones donde la latencia debe ser predecible. También es software beta. Nvidia apunta esto a entusiastas con al menos una máquina compatible — una tarjeta GeForce RTX serie 20 o más nueva, o silicio Apple M4-series — y la expectativa de que ya sepan manejarse con Ollama.

PAIR es gratuito, de código abierto y está disponible en beta ahora para Windows, macOS y Linux. Nvidia no ha anunciado una hoja de ruta para garantías de QoS ni una fecha de lanzamiento estable. El piso práctico para beneficiarse son dos máquinas con hardware capaz, lo que descarta la mayoría de las configuraciones de una sola computadora. Para los usuarios que ya ejecutan Ollama en más de un dispositivo en casa, la barrera de entrada es lo suficientemente baja como para justificar el experimento.

Etiquetas: , , , , ,

Discussion

There are 0 comments.