Kimi 研究博客·· 45 分钟前
Kimi K2 开源 1T 参数 MoE 模型,含 Base 与 Instruct 版本
Kimi K2
SI 导读
Kimi 官方开源 Kimi K2,该 MoE 模型总参数 1T、激活参数 32B,包含 Kimi-K2-Base 与 Kimi-K2-Instruct 两个版本。官方还发布更新权重,增强智能体编码并支持 256K 上下文;Kimi K2 针对工具调用和多步任务优化,网页端与移动端已可免费使用。预训练在 15.5T tokens 上使用 MuonClip 优化器完成。
精选SI 评分84
推荐理由
Kimi K2 以 1T 总参数、32B 激活参数的 MoE 架构开源,并公开 MuonClip 优化器,读者可了解其工具调用能力的实现路径。
来源:Kimi 研究博客 · kimi.com