IT之家·· 3 小时前
淘宝 MNN 团队开源 MNN-Pocket-0.3B 手机模型,iPhone 18 Pro 离线跑出 350 token/s
淘宝 MNN 团队开源 0.3B 手机模型,苹果 iPhone 18 Pro 离线跑出 350 token/s
SI 导读
淘宝 MNN 团队开源 MNN-Pocket-0.3B 轻量语言模型,在 iPhone 18 Pro 离线解码达 350 token/s。模型 INT4 部署文件体积 173MB,较 Qwen3-0.6B 减约49%,峰值内存增量减约47%。团队在 GitHub 开源 Base、SFT 及端侧部署等版本,供开发者适配集成。
SI 评分59
来源:IT之家 · ithome.com