IT之家·· 3 小时前
GitHub Copilot 将支持本地 AI 模型推理,Surface Laptop Ultra 本地吞吐量最高每秒 63 词元
GitHub Copilot 不再纯云端 AI 模型:Surface Laptop Ultra 本地推理吞吐量最高每秒 63 词元
SI 导读
GitHub Copilot 将支持本地 AI 模型推理,Surface Laptop Ultra 上解码吞吐量最高每秒 63 词元。微软推出 MAI Code 1.1 Flash 混合专家模型,总参数 1370 亿、活跃 68 亿,用户可在 Copilot CLI 与 VS Code 中选择端侧模式。此前 GitHub Copilot 仅依赖云端托管模型。
SI 评分63
来源:IT之家 · ithome.com