国产芯片项目全栈开源，支持断网运行千亿参数模型后摩智能宣布全面开源面向M50芯片的AI生态软件栈，覆盖模型处理、推理框架、领域套件及部署运维等环节，计划明年1月前陆续上线15个项目，并开放llama.cpp、vLLM适配版本

1. 

   科技脉搏

   国产芯片项目全栈开源，支持断网运行千亿参数模型后摩智能宣布全面开源面向M50芯片的AI生态软件栈，覆盖模型处理、推理框架、领域套件及部署运维等环节，计划明年1月前陆续上线15个项目，并开放llama.cpp、vLLM适配版本

   3小时前

   

   ×

   

   国产芯片项目全栈开源，支持断网运行千亿参数模型
   
   后摩智能宣布全面开源面向M50芯片的AI生态软件栈，覆盖模型处理、推理框架、领域套件及部署运维等环节，计划明年1月前陆续上线15个项目，并开放llama.cpp、vLLM适配版本。公司称M50已应用于150多款终端产品，可支持本地运行千亿参数模型，服务Agent主机、国产笔记本、陪伴机器人和校园服务器等场景。
   
   来源：腾讯新闻

   3小时前