英伟达高管称Groq机架已全面量产 AI推理“低延迟”大战升温

英伟达高管最新宣布，Groq 3 LPX机架已进入全面量产阶段，这标志着该公司史上最大规模收购案所获得的技术正式实现商业化。当地时间周一，英伟达高级总监Dion Harris表示，Groq机架将与Vera中央处理器和Rubin图形处理器一同部署在新型云服务商Nebius的数据中心，并将于今年晚些时候上线。英伟达加速生产Groq芯片并向客户提供产品，凸显出低延迟推理的重要性日益提升。低延迟推理能够让AI智能体更快响应，避免用户长时间等待，在编程等应用中尤其重要。