微软推动Maia用于多吉瓦级推理,但其效率指标引发质疑

微软计划自2027年起将Maia系列扩展至多吉瓦部署,Maia 300面向长上下文、记忆密集型推理,采用HBM4和自研以太网互连,预期较主流GPU系统每兆瓦多产出40%令牌。业内质疑“每瓦令牌数”定义、对比基准及客户能否直接使用相关算力。

来源:InfoQ