跳到正文
原文
IT之家·· 2 小时前

英特尔推出 Intel Inference Microservices:面向至强处理器的 vLLM 推理微服务

英特尔面向四至六代至强处理器推出推理微服务:自动检测硬件并配置 vLLM 参数

SI 导读

英特尔推出 Intel Inference Microservices,这是一套基于 vLLM 引擎的容器化 LLM 推理微服务,支持第四至六代至强处理器。该服务通过 OpenAI 兼容 API 提供模型服务,启动时自动检测硬件并应用预验证的 vLLM 参数,无需手动调优。此前英特尔已发布开源 LLM 服务栈,此次发布将其进一步产品化并纳入统一推理接口蓝图。

SI 评分31

来源:IT之家 · ithome.com

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有