量子位· 量子位的朋友们·· 10 小时前
百度开源文心5.5 Flash Base,多基准测试刷新同尺寸模型 SOTA
SI 导读
百度11月5日开源文心5.5 Flash Base基座模型,在知识推理代码等多基准测试超越同尺寸模型刷新SOTA。模型采用MoE架构,总参数量2800亿,每个Token激活140亿参数,使用33.5万亿个Token预训练,预训练上下文最高128K且微调推理支持100万Token。开源地址Hugging Face,为开发者提供进一步微调与定制空间。
SI 评分65
来源:量子位 · qbitai.com