Hacker News · AI 热帖· sroussey·· 5 天前
Edge0 开源 Edge0-145B 与 Edge0-120B 端侧大模型及统一推理框架
Edge0-145B: Frontier AI Capabilities on Your Own Computer
SI 导读
Edge0 开源 Edge0-145B 与 Edge0-120B 端侧大模型及统一推理框架,Edge0-145B 是全球首个 145B 参数开源端侧模型。其在兼容笔记本上峰值内存 29GB、解码超 80 tokens/s,编码推理与 Agent 能力可比特定前沿云模型;模型权重与推理框架分别发布于 Hugging Face 和 GitHub。
SI 评分72
来源:Hacker News · AI 热帖 · edge0.ai