笔记本运行7000亿参数GLM，无GPU也能做到？用SSD当显存引发GitHub热潮开源项目Colibrì用纯C实现分层推理框架，将大模型专家权重按需存放并调度于SSD、内存和显存之间，使7440亿参数的GLM-5.2可在约16GB内存、无需GPU的电脑上运行，并支持最高2.8万亿参数的Kimi K3

1. 

   科技脉搏

   笔记本运行7000亿参数GLM，无GPU也能做到？用SSD当显存引发GitHub热潮开源项目Colibrì用纯C实现分层推理框架，将大模型专家权重按需存放并调度于SSD、内存和显存之间，使7440亿参数的GLM-5.2可在约16GB内存、无需GPU的电脑上运行，并支持最高2.8万亿参数的Kimi K3

   4小时前

   

   ×

   

   笔记本运行7000亿参数GLM，无GPU也能做到？用SSD当显存引发GitHub热潮
   
   开源项目Colibrì用纯C实现分层推理框架，将大模型专家权重按需存放并调度于SSD、内存和显存之间，使7440亿参数的GLM-5.2可在约16GB内存、无需GPU的电脑上运行，并支持最高2.8万亿参数的Kimi K3。项目已获超3.2万星，覆盖九个模型家族，但低配置下推理速度较慢。
   
   来源：腾讯新闻

   4小时前