淘宝MNN团队开源0.3B手机模型，苹果iPhone 18 Pro离线运行达到350 token/s

淘宝旗下 MNN 团队开源约 3 亿参数的 MNN-Pocket-0.3B 手机模型，主打低内存、低功耗和高速离线推理。该模型在 iPhone 18 Pro 上平均解码约 350 token/s，INT4 部署文件仅 173MB，并提供多种模型版本及端侧部署方案。

来源：IT之家