Nvidia launches Groq 3 LPU racks for faster, more efficient AI inference, shipping late 2026. Nvidia lanza racks Groq 3 LPU para inferencias de IA más rápidas y eficientes, que se enviarán a fines de 2026.

Nvidia has launched the Groq 3 Language Processing Unit (LPU) and associated LPX server racks, integrating Groq’s technology into its Vera Rubin platform to boost AI inference speed and efficiency. Nvidia ha lanzado la Unidad de Procesamiento de Lenguaje Groq 3 (LPU) y los racks de servidores LPX asociados, integrando la tecnología de Groq en su plataforma Vera Rubin para aumentar la velocidad y eficiencia de inferencia de IA. The system, featuring 256 LPUs per rack, delivers up to 1,500 tokens per second with 35 times higher throughput per watt, targeting trillion-parameter models and agentic AI workloads. El sistema, con 256 LPU por rack, entrega hasta 1,500 tokens por segundo con un rendimiento 35 veces mayor por vatio, apuntando a modelos de billones de parámetros y cargas de trabajo de IA. Designed to complement Nvidia’s Rubin GPUs and Vera CPUs, the platform aims to reduce latency and power use while enabling higher revenue per million tokens. Diseñada para complementar las GPU Rubin y las CPU Vera de Nvidia, la plataforma tiene como objetivo reducir la latencia y el consumo de energía al tiempo que permite mayores ingresos por millón de tokens. The Groq 3 LPX racks are expected to ship in late 2026, with Nvidia also introducing the open-source Dynamo 1.0 software platform to streamline large-scale AI inference. Se espera que los racks Groq 3 LPX se envíen a fines de 2026, con Nvidia también introduciendo la plataforma de software Dynamo 1.0 de código abierto para optimizar la inferencia de IA a gran escala. The move marks a strategic shift toward specialized inference hardware amid growing competition and rising demand from hyperscalers and AI service providers. La medida marca un cambio estratégico hacia un hardware de inferencia especializado en medio de una creciente competencia y una creciente demanda de hiperescaladores y proveedores de servicios de inteligencia artificial.