Hace poco vi esta noticia, NVIDIA adquirió a finales del año pasado el negocio de inferencia de chips de Groq, y la lógica detrás de esta operación es bastante interesante.

Huang Renxun explicó por primera vez en detalle en la conferencia GTC de este año por qué decidió adquirir Groq. En pocas palabras, vio que el mercado de inferencia se estaba diversificando. Antes, todos los que optimizaban chips de inferencia tenían un único objetivo: maximizar el rendimiento. Pero ahora la situación ha cambiado, diferentes usuarios están dispuestos a pagar diferentes precios por distintas velocidades de respuesta.

La lógica aquí es clave: si puedo ofrecer a los desarrolladores una respuesta de token más rápida, mejorando su eficiencia laboral, estarán dispuestos a pagar por ello. Este mercado de alto valor y baja latencia es en realidad una oportunidad que ha surgido recientemente. Huang lo llamó la expansión de la frontera de Pareto en el mercado de inferencia: antes solo había soluciones de alto rendimiento, ahora se añade una nueva categoría, que es la de soluciones de baja latencia y alto precio unitario.

Y Groq es precisamente un experto en este campo. Su arquitectura LPU es conocida por su baja latencia determinista, lo cual complementa perfectamente la orientación de alto rendimiento de los GPU de NVIDIA. La versión Groq 3 LPU, lanzada en marzo, utiliza un proceso de Samsung de 4 nm y tiene una capacidad de inferencia en modelos de billones de parámetros que supera en 35 veces a la NVL72 Blackwell, una diferencia de rendimiento realmente impresionante.

Desde el punto de vista de la línea de productos, esta adquisición llena un vacío en el mercado de inferencia de NVIDIA. Piensa en ello: con el mismo modelo, se puede tener diferentes estrategias de precios según el tiempo de respuesta—aunque el rendimiento sea un poco menor, el precio unitario puede compensar. La incorporación de Groq permite a NVIDIA tener una cobertura más completa en el mercado de inferencia. Desde una perspectiva estratégica, esta operación tiene mucho sentido.