DeepSeek开源面向大规模推理的DeepInfer框架及token编解码组件deepseek-recipe,支持DeepSeek-V4.1-Flash和英伟达、华为硬件。官方称单集群日吞吐量达155万亿token,每卡每小时收入约38美元,文章据此估算毛利率约82%,并介绍其Prefill/Decode分离、KV Cache和推测解码等优化。
来源:腾讯新闻
本站内容来自 Telegram 频道,实时更新
订阅频道