后摩智能宣布全面开源面向M50芯片的AI生态软件栈,覆盖模型处理、推理框架、领域套件及部署运维等环节,计划明年1月前陆续上线15个项目,并开放llama.cpp、vLLM适配版本。公司称M50已应用于150多款终端产品,可支持本地运行千亿参数模型,服务Agent主机、国产笔记本、陪伴机器人和校园服务器等场景。
来源:腾讯新闻
本站内容来自 Telegram 频道,实时更新
订阅频道