IT之家·· 9 小时前
商汤发布 SenseNova Loop-9B 模型,部署显存需求低至 10 GB 内
商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内
SI 导读
商汤科技今天(17 日)晚间正式发布 SenseNova Loop-9B,4bit 量化后权重约 4.9GB、部署显存需求低至 10 GB 内。该模型通过 Loop 结构复用模型层参数并结合流形约束超连接(mHC),在约 9B 参数规模下扩展到 56 次层计算,上下文长度最高可达 512K tokens。
SI 评分58
来源:IT之家 · ithome.com