IT之家·· 4 天前
llama.cpp 与 ggml 库版本迈入 1.0.0,支持超 150 种模型架构并明确兼容规则
本地推理引擎 llama.cpp 1.0.0 史诗级更新:支持超 150 种模型架构,断网也能满血跑大模型
SI 导读
开源 AI 推理项目 llama.cpp 与 ggml 库版本迈入 1.0.0,明确主版本号标记不兼容变更的规则,已支持超 150 种模型架构变体。版本规则让依赖库的应用从版本号判断升级边界,团队在多家硬件商支持下扩大跨平台测试覆盖。
SI 评分53
来源:IT之家 · ithome.com