报道:微软明年将大规模部署自研AI芯片,目标提升推理效率40%
据彭博报道,微软宣布新一代Maia 300芯片将于明年部署,计划以吉瓦级规模用于AI推理,预计单位能耗处理Token的效率较主流GPU提升40%。微软将优先用其满足内部AI服务需求,以降低推理成本和英伟达GPU依赖。
来源:华尔街见闻
据彭博报道,微软宣布新一代Maia 300芯片将于明年部署,计划以吉瓦级规模用于AI推理,预计单位能耗处理Token的效率较主流GPU提升40%。微软将优先用其满足内部AI服务需求,以降低推理成本和英伟达GPU依赖。
来源:华尔街见闻