The Decoder· Matthias Bastian·· 11 小时前
Deepseek 开源推理引擎 DeepInfer 与 deepseek-recipe，支持 V4.1-Flash 低成本部署
Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
SI 导读
Deepseek 开源推理框架 DeepInfer 与 deepseek-recipe，用于其 V4.1-Flash 等模型的低成本高速部署。DeepInfer 基于 vLLM 并优化计算内核与多芯片分布式处理，未来模型代码也将开源。公司称旨在降低社区算力成本，同时给 OpenAI 和 Anthropic 等西方厂商增添定价压力。
SI 评分62
来源：The Decoder · the-decoder.com