我剛剛注意到最近在AI基礎設施發展方面的一個有趣現象。去年底，大公司以200億美元收購了Groq，一家專注於低延遲處理的晶片公司。從上週GTC展會上的情況來看，他們剛剛推出了使用三星4nm技術製造的Groq 3 LPU晶片。

讓我感興趣的是這一動作背後的原因。似乎AI服務市場正在發生變化，不僅僅是傳統的算力提升，而是為用戶提供更多選擇。有些人需要速度，有些人需要快速反應，有些人則兩者都要，但願意支付不同的價格。

實際上，這類似於擴展市場範圍，不再只是原有的擴張。現在出現了低延遲且單位成本較高的新市場，超越了傳統以量和高速為重的模式。同一模型可以根據反應速度定價，雖然處理量較低，但每單位價格可以彌補差異。

有趣的是，Groq的LPU架構以其確定性低延遲而聞名，結合市場上專注高速GPU的廠商，彷彿填補了他們產品線中的空白。不僅是直接競爭，而是互補，充分發揮各自優勢，這是一個非常聰明的策略。