跳到正文

#部署/工程

今日 1 条
今天11月18日周三
11月17日周二
11月16日周一
11月15日周日
  1. The Decoder75

    美团开放 LongCat-2.5 权重,1.6 万亿参数智能体模型完全在中国硬件上训练

    美团在 LongCat-2.5 官方亮相一周后开放权重,这款 1.6 万亿参数智能体模型完全在中国硬件上训练。它采用 MoE 架构,1.6 万亿总参数中每 token 约 480 亿激活,能理解文本、图像和视频并可开关推理;API 兼容 OpenAI 和 Anthropic 格式,一次最多处理 100 万 token、生成最多 128,000 token。

11月11日周三
11月10日周二
11月9日周一
11月7日周六
  1. 量子位52

    魔芯科技发布通用4D世界模型MoWorld 2.0,融合十余种物理要素并在昇腾NPU达70 FPS

    魔芯科技在乌镇世界互联网大会发布新一代通用4D世界模型MoWorld 2.0,将重力、流体等十余种物理要素融入同一模型,实时视频推理速度从50 FPS提升至70 FPS。模型可输出3D/4D高斯资产供下游编辑与机器人仿真,推理成本最低为同规模GPU方案的30%。该版本是继今年7月MoWorld 1.0后的迭代,依托华为昇腾NPU优化实现芯模协同。

11月6日周五
11月5日周四
  1. IT之家63

    华为昇腾宣布 0 Day 支持 Kimi K3.1 Pro 推理部署,2.8 万亿级 MoE 模型能力再进阶

    华为昇腾基于 vLLM Ascend 与 SGLang 实现 Kimi K3.1 Pro 的 0 Day 推理适配,支持 Atlas 800 A3 等硬件部署这一 2.8 万亿参数 MoE 模型。该模型具备百万 token 上下文与视觉理解,昇腾优化稀疏注意力等算子支撑长上下文推理。此次适配依托 K3 经验提前完成,模型发布首日即可部署验证。

10月28日周三
  1. Hugging Face Blog63

    NVIDIA 发布 Nemotron 3.5 Transcribe 多语言语音转写模型与 Granary v2 数据管道

    NVIDIA 发布开放权重多语言语音转写模型 Nemotron 3.5 Transcribe 与 Granary v2 数据管道,支持40种语言转写、31种互译及13种语言说话人归属。

    推荐理由:NVIDIA开放权重多语言转写模型在多个基准领先,其开放的Granary v2数据管道和微调配方便于开发者适配领域词汇。

10月26日周一
  1. 量子位69

    KV Cache砍掉99%,单卡吞吐飙6倍,港科CMU联手岩山科技开源新模型

    岩山科技旗下岩芯矩阵联合港科大、CMU等高校刚刚发布并开源EdgeRock-4B模型,在256K上下文下KV Cache减少99.1%且单卡吞吐为源模型6.42倍。模型基于Qwen3.5-4B改造,权重与代码已在GitHub和Hugging Face开源,支持文本和图像推理。其在AIME 2024–2026平均一次通过率82.9%,推理能力接近源模型。

10月23日周五
10月22日周四
  1. IT之家32

    蚂蚁数科发布决策模型 LingDT-Decision-1.0,将 Token 消耗降低超 90%

    蚂蚁数科发布决策模型 LingDT-Decision-1.0,在客服、风控等场景中将 Token 消耗降低超 90%,响应时效提升 10 倍。该模型提供 4B 和 27B 版本,首创原生多选与按序决策功能,27B 版本在 23 项开源评测中取得同参数最高准确率。目前该模型已在蚂蚁数科 DTMaaS 平台上线,开发者可限时免费体验。

10月21日周三
  1. Latent Space77

    DeepSeek 开源 DeepInfer 推理栈:单集群日处理 155T token,81 天回本

    DeepSeek 开源生产推理框架 DeepInfer,单集群日处理 155T token 且加速卡小时收入 38 美元。框架支持 NVIDIA SM100 与华为昇腾 950,vLLM 复现其解码吞吐差距在 6% 内;此次发布恰逢 PyTorch Conf,是闭源推理进展后的开源回应。

    推荐理由:本文汇总 DeepSeek 开源 DeepInfer 的推理架构与成本披露,并对照 vLLM 复现结果帮助读者理解开源推理栈的生产实现。

  2. Mistral AI65

    Mistral发布Voxtral 3语音模型与智能体SDK

    Mistral发布Voxtral 3语音模型家族与实时语音智能体SDK,支持50+语言转写和35+语言情感语音合成。该SDK基于LiveKit将听、推理、说整合为流式管道,每轮交互耗时低于1秒,支持通过Mistral欧盟API或自部署运行。模型包含Voxtral Small Transcribe 3等,批量转写价格低至$0.0035/min。

    推荐理由:Mistral发布Voxtral 3语音模型家族与实时智能体SDK,给出50+语言转写和私有部署选项,便于企业评估语音工作流改造。

10月20日周二
10月16日周五
  1. 量子位61

    蚂蚁百灵开源 Ling-3.1-flash 模型,主打真实工作流任务

    蚂蚁百灵开源推出 Ling-3.1-flash 模型,主打真实工作流任务并采用高智效比混合架构。该模型总参数约560B、激活25B,上下文窗口达1M,量化后部署GPU由8卡降至4卡,在 GDPVal-AA V2.1 等评测中展现多步骤任务竞争力并接入内部 Agent「小虎」实测可完成电商与医疗辅助。此前百灵已推出 Ling-3.0-flash 金融与医疗模型,持续将模型能力嵌入真实专业场景。

10月15日周四
  1. 量子位73

    昆仑万维Skywork AI发布Matrix-Game 4.0,单张RTX 5090实时运行游戏世界模型并开源

    昆仑万维Skywork AI发布Matrix-Game 4.0,全球首款可在单张RTX 5090上实时运行并开源的游戏世界模型。该模型让游戏引擎维护规则、视频模型生成画面,按键响应低于0.15秒、60帧运行。相比英伟达StreamRender-H3需8张GB200,单卡方案大幅降低硬件门槛,且团队自1.0起持续开源。

10月10日周六
10月8日周四
10月3日周六
  1. Hacker News · AI 热帖70

    Show HN:Aleph Alpha 的新主权 AI 模型 Kolibri

    Aleph Alpha 于 2026年10月3日发布开放权重德英双语 MoE 模型 Kolibri,总参数78.1B、每token激活3.46B。它采用 Apache 2.0 许可,权重在 Hugging Face,原生上下文262,144 tokens 可扩至1,048,576,支持四级推理与工具调用,评测中德语与长上下文表现优于同规模开放模型但编码较弱。

10月1日周四
9月29日周二
9月24日周四
9月22日周二
9月17日周四
  1. Testing Catalog47

    TypeSafe AI 推出 Jev 模型,主打结构化 AI 决策

    TypeSafe AI 结束两年隐身期,推出首个 System One 模型 Jev 并开启早期访问。该模型通过并行评估返回带置信度的结构化决策,输入定价为每百万 token 0.042 美元,输出免费,端到端响应时间为 70 至 500 毫秒。创始人 Diogo Almeida 曾参与 ChatGPT 开发,Jev 旨在替代开放式文本生成,提供快速且类型安全的决策层。

9月5日周六
  1. Testing Catalog86

    OpenAI 发布 GPT-6 Astra 至 ChatGPT 与 API

    OpenAI 发布 GPT-6 Astra,已向 ChatGPT Work、Codex 及 API 开放。API 模型 gpt-6-astra 定价 $10 per million input tokens 与 $50 per million output tokens,Fast 模式双倍速双倍价。

    推荐理由:原文给出 GPT-6 Astra 在 OSWorld 2.0 对比 GPT-5.6 Sol 的耗时与准确率,读者可判断其计算机使用效率提升。

9月1日周二
8月21日周五
  1. Hugging Face Blog62

    Liquid AI 发布 LFM2.5-DSpark 草稿模型,推理最高提速 3.2 倍

    Liquid AI 为 LFM2.5 家族的 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点,通过投机解码在不改变输出质量的前提下提升解码速度,GPU 上吞吐最高提升 3.18 倍,端侧最高 2.87 倍。

    推荐理由:官方给出三个模型在 H100 与 MacBook 上的实测加速比和调用方式,可据此判断端侧推理的可用性。

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有