我刚刚注意到关于过去一段时间AI基础设施发展的有趣事情。去年底,大公司收购了Groq,这是一家专注于低延迟处理的芯片公司,价格为200亿美元。从上周在GTC上的展览来看,他们刚刚推出了采用三星4nm技术制造的Groq 3 LPU芯片。



让我感兴趣的是背后原因。这似乎表明AI服务市场正在发生变化,不仅仅是传统的算力增强,而是为用户提供更多选择。有些人需要速度,有些人需要快速响应,有些人两者都要但愿意支付不同的价格。

实际上,这类似于市场范围的扩展,不再只是原有的增长方式。现在出现了新的细分市场,具有低延迟和高单价,超越了以往强调产量和高速的模式。同样的模型可以根据响应速度定价不同,虽然处理量较低,但每单位价格可以弥补差异。

有趣的是,Groq的LPU架构以其确定性的低延迟而闻名。当结合市场上以高速GPU为主的方式时,就像填补了他们产品线中缺失的空白。这不仅是直接竞争,而是能力的补充,这是一个非常聪明的举措。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论