寒武纪完成商汤 SenseNova Loop-9B Day 0 适配
寒武纪宣布完成商汤 SenseNova Loop-9B 的 Day 0 适配,基于 vllm_mlu 打通 MLU 平台推理链路。该模型通过 Loop 结构将 32 层扩展为 56 次计算,4bit 量化后权重约 4.9GB,部署显存需求低至 10GB 内。此次适配紧随商汤昨日发布该模型,旨在降低本地与私有化部署门槛。
寒武纪宣布完成商汤 SenseNova Loop-9B 的 Day 0 适配,基于 vllm_mlu 打通 MLU 平台推理链路。该模型通过 Loop 结构将 32 层扩展为 56 次计算,4bit 量化后权重约 4.9GB,部署显存需求低至 10GB 内。此次适配紧随商汤昨日发布该模型,旨在降低本地与私有化部署门槛。
商汤科技今天(17 日)晚间正式发布 SenseNova Loop-9B,4bit 量化后权重约 4.9GB、部署显存需求低至 10 GB 内。该模型通过 Loop 结构复用模型层参数并结合流形约束超连接(mHC),在约 9B 参数规模下扩展到 56 次层计算,上下文长度最高可达 512K tokens。
米哈游旗下《崩坏》系列 AI 研发团队公布通用视觉语言动作基础模型 Gamer,可模拟真人操作自主游玩 3D 和 2D 游戏。
阿里巴巴发布 Qwen4-Max,以更低价格对标 Opus 5.5、GPT-6 和 Kimi K3.1 Pro。Qwen4-Max 采用混合专家架构,有 2.4 trillion 参数、每个 token 激活 71 billion 参数,支持原生处理图像和 one-million-token 上下文窗口,并通过三层压缩上下文、第四层聚焦重要部分降低长输入成本。
NVIDIA Vera Rubin 平台在 MLPerf Training v6.1 中横扫全部基准,并在 MLPerf Endpoints 智能体推理测试中领先。
腾讯混元团队正式推出 Hy4 flash,官方将其定位为迄今性价比最高的 Hy 模型。该模型总参数量 224B、每个 token 激活 12B,支持多模态输入与 100 万 token 上下文长度。
美团在 LongCat-2.5 官方亮相一周后开放权重,这款 1.6 万亿参数智能体模型完全在中国硬件上训练。它采用 MoE 架构,1.6 万亿总参数中每 token 约 480 亿激活,能理解文本、图像和视频并可开关推理;API 兼容 OpenAI 和 Anthropic 格式,一次最多处理 100 万 token、生成最多 128,000 token。
Latent Space 评测了 NaiveAI 的 Naive-N0.5-Flash 开放权重模型在编码与速度上的表现,对比 DeepSeek V4.1 Flash 1017 和 GLM 5.3 Flash。
百度文心于11月9日首次披露RSI最新进展,公布自动研究系统ERNIE Evolve,其已应用于文心5.5 Flash推理优化并取得显著收益。在昆仑芯P800低时延场景生成速度提升至基线623.6%,确定性推理吞吐提升至133.7%。文心5.5 Flash Base已于11月5日开源。
美团龙猫于 11 月 9 日宣布原生多模态模型 LongCat-2.5 正式开源,总参数 1.6 万亿并支持一百万上下文。该模型将视觉信号表示为多层级离散 token 与文本由主干统一处理,并采用 W4A4 方案优化国产算力部署。LongCat-2.5 最初于 11 月 2 日发布,本次为权重开放。
魔芯科技在乌镇世界互联网大会发布新一代通用4D世界模型MoWorld 2.0,将重力、流体等十余种物理要素融入同一模型,实时视频推理速度从50 FPS提升至70 FPS。模型可输出3D/4D高斯资产供下游编辑与机器人仿真,推理成本最低为同规模GPU方案的30%。该版本是继今年7月MoWorld 1.0后的迭代,依托华为昇腾NPU优化实现芯模协同。
Ricursive Intelligence发布开放语言模型Ripple-65B Preview,在TerminalBench 2.1编码基准获80.52分,为开放美国模型最佳。
淘宝 MNN 团队开源 MNN-Pocket-0.3B 轻量语言模型,在 iPhone 18 Pro 离线解码达 350 token/s。模型 INT4 部署文件体积 173MB,较 Qwen3-0.6B 减约49%,峰值内存增量减约47%。团队在 GitHub 开源 Base、SFT 及端侧部署等版本,供开发者适配集成。
华为昇腾基于 vLLM Ascend 与 SGLang 实现 Kimi K3.1 Pro 的 0 Day 推理适配,支持 Atlas 800 A3 等硬件部署这一 2.8 万亿参数 MoE 模型。该模型具备百万 token 上下文与视觉理解,昇腾优化稀疏注意力等算子支撑长上下文推理。此次适配依托 K3 经验提前完成,模型发布首日即可部署验证。
NVIDIA 发布开放权重多语言语音转写模型 Nemotron 3.5 Transcribe 与 Granary v2 数据管道,支持40种语言转写、31种互译及13种语言说话人归属。
推荐理由:NVIDIA开放权重多语言转写模型在多个基准领先,其开放的Granary v2数据管道和微调配方便于开发者适配领域词汇。
岩山科技旗下岩芯矩阵联合港科大、CMU等高校刚刚发布并开源EdgeRock-4B模型,在256K上下文下KV Cache减少99.1%且单卡吞吐为源模型6.42倍。模型基于Qwen3.5-4B改造,权重与代码已在GitHub和Hugging Face开源,支持文本和图像推理。其在AIME 2024–2026平均一次通过率82.9%,推理能力接近源模型。
Canva 发布首款自研图像生成基础模型 Craft,通过 Dream Lab 和公开 API 开放,支持 2K 分辨率与 55 种语言文本。该模型在 DesignArena 图像榜排第四,人物肖像类目第一,采用构图规划与渲染分离架构以生成可编辑图文。Canva MCP 支持即将上线,允许 AI 助手在工作流中直接出图。
蚂蚁数科发布决策模型 LingDT-Decision-1.0,在客服、风控等场景中将 Token 消耗降低超 90%,响应时效提升 10 倍。该模型提供 4B 和 27B 版本,首创原生多选与按序决策功能,27B 版本在 23 项开源评测中取得同参数最高准确率。目前该模型已在蚂蚁数科 DTMaaS 平台上线,开发者可限时免费体验。
DeepSeek 开源生产推理框架 DeepInfer,单集群日处理 155T token 且加速卡小时收入 38 美元。框架支持 NVIDIA SM100 与华为昇腾 950,vLLM 复现其解码吞吐差距在 6% 内;此次发布恰逢 PyTorch Conf,是闭源推理进展后的开源回应。
推荐理由:本文汇总 DeepSeek 开源 DeepInfer 的推理架构与成本披露,并对照 vLLM 复现结果帮助读者理解开源推理栈的生产实现。
i14 利用 TorchNeuron Native 在 AWS Trainium2 上训练和部署 Laplace 3B 线性注意力模型,其递归状态固定为 29.5 MB,不随上下文长度增长。
Deepseek 开源推理框架 DeepInfer 与 deepseek-recipe,用于其 V4.1-Flash 等模型的低成本高速部署。DeepInfer 基于 vLLM 并优化计算内核与多芯片分布式处理,未来模型代码也将开源。公司称旨在降低社区算力成本,同时给 OpenAI 和 Anthropic 等西方厂商增添定价压力。
Mistral发布Voxtral 3语音模型家族与实时语音智能体SDK,支持50+语言转写和35+语言情感语音合成。该SDK基于LiveKit将听、推理、说整合为流式管道,每轮交互耗时低于1秒,支持通过Mistral欧盟API或自部署运行。模型包含Voxtral Small Transcribe 3等,批量转写价格低至$0.0035/min。
推荐理由:Mistral发布Voxtral 3语音模型家族与实时智能体SDK,给出50+语言转写和私有部署选项,便于企业评估语音工作流改造。
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,并同步开源 deepseek-recipe 组件。该框架支持分布式推理、推测解码与结构化输出,兼容英伟达与华为昇腾平台,已支撑 DeepSeek V4.1 Flash 高吞吐低延迟服务,开源地址 https://github.com/deepseek-ai/DeepInfer。
Reflection AI 发布 Beam 开源权重模型,面向智能体编程与长程任务,并给出 AWS 部署路径。该模型总参数 501B、活跃参数 23B、上下文 1M token,以 Apache 2.0 在 Hugging Face 开放。用户可通过 SageMaker JumpStart 托管或 HyperPod 配合 SGLang、vLLM 自管推理。
蚂蚁百灵开源 Ling-3.1-flash 模型,总参数约 560B、激活约 25B,最高支持 1M 上下文。该模型在 Artificial Analysis 评测中智能指数 41、输出速度约每秒 210 Token,本地部署经 MXFP4 与 block-FP8 量化使权重占用降至 292GB、Hopper GPU 由 8 卡降至 4 卡。
蚂蚁百灵开源推出 Ling-3.1-flash 模型,主打真实工作流任务并采用高智效比混合架构。该模型总参数约560B、激活25B,上下文窗口达1M,量化后部署GPU由8卡降至4卡,在 GDPVal-AA V2.1 等评测中展现多步骤任务竞争力并接入内部 Agent「小虎」实测可完成电商与医疗辅助。此前百灵已推出 Ling-3.0-flash 金融与医疗模型,持续将模型能力嵌入真实专业场景。
Mistral 发布首个时间序列基础模型家族 Timestral,其 209M 参数版本在 GIFT-Eval、TIME 和 fev-bench 三项基准均排名第一。
推荐理由:原文显示209M参数模型在三项公开基准均超越更大规模对手,读者可对比精度与算力门槛评估其边缘部署适用场景。
阶跃星辰今日开放 Step 5 Preview 模型权重,包含 BF16 与 FP8 版本,华为昇腾、沐曦、壁仞等国产硬件首发提供 0Day 支持。权重上线 Hugging Face 与 ModelScope,可通过 vLLM 或 SGLang 部署兼容 OpenAI 接口的 API。
昆仑万维Skywork AI发布Matrix-Game 4.0,全球首款可在单张RTX 5090上实时运行并开源的游戏世界模型。该模型让游戏引擎维护规则、视频模型生成画面,按键响应低于0.15秒、60帧运行。相比英伟达StreamRender-H3需8张GB200,单卡方案大幅降低硬件门槛,且团队自1.0起持续开源。
微软推出专为结构化决策打造的 Microsoft-Decision-1 模型,该模型基于 Qwen3.5-9B 后训练,响应速度比 GPT-6 Sol 快 35 倍。模型已上线 Microsoft Foundry 和 OpenRouter,输入价格每百万 Token 0.042 美元,输出免费。
Anthropic 发布 Claude Haiku 5.5,其最便宜且能力最强的小模型,标准速度最快且 API 价格低于前代。对于 10 万 token 以内提示,输入每百万 token 0.10 美元,输出 0.50 美元,平均运行成本比 Haiku 4.5 低约 75%。
Aleph Alpha 于 2026年10月3日发布开放权重德英双语 MoE 模型 Kolibri,总参数78.1B、每token激活3.46B。它采用 Apache 2.0 许可,权重在 Hugging Face,原生上下文262,144 tokens 可扩至1,048,576,支持四级推理与工具调用,评测中德语与长上下文表现优于同规模开放模型但编码较弱。
Allen AI 发布 Olmo-core 3,一套面向大规模 MoE 的开放训练框架,设计目标是把 MoE 训练扩展到万亿参数级。
AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用,定位为面向编码与知识工作的更高效 Sonnet 模型,多数任务单任务成本更低、速度更快。
推荐理由:AWS 官方给出 Sonnet 5.5 的适用边界与 Opus 5.5 的分工,读者可据此判断何时选 Sonnet。
Liquid AI 发布 LFM2.5-VL-DSpark 实验性草稿模型,为 LFM2.5-VL-3B 视觉语言模型引入推测解码路径。该模型增加 280M 参数,在 H100 上实现最高 2.66x 解码加速,并支持 llama.cpp、MLX-VLM 和 SGLang。
TypeSafe AI 发布 Jev,称其为 System One 模型,只接受文本输入,输出类别、是/否答案、评分及置信度等浮点数,而非文本。Jev 只对输入计费,首个模型输入价格为每百万 token 0.042 美元,低于 OpenAI GPT-5 Nano 的 0.05 美元,支持 Noul、Choice、Score 三类问题并并行评估。
TypeSafe AI 结束两年隐身期,推出首个 System One 模型 Jev 并开启早期访问。该模型通过并行评估返回带置信度的结构化决策,输入定价为每百万 token 0.042 美元,输出免费,端到端响应时间为 70 至 500 毫秒。创始人 Diogo Almeida 曾参与 ChatGPT 开发,Jev 旨在替代开放式文本生成,提供快速且类型安全的决策层。
OpenAI 发布 GPT-6 Astra,已向 ChatGPT Work、Codex 及 API 开放。API 模型 gpt-6-astra 定价 $10 per million input tokens 与 $50 per million output tokens,Fast 模式双倍速双倍价。
推荐理由:原文给出 GPT-6 Astra 在 OSWorld 2.0 对比 GPT-5.6 Sol 的耗时与准确率,读者可判断其计算机使用效率提升。
微软研究院推出 GigaPath-Flash 和 GigaTIME-Flash,以蒸馏自十亿参数 GigaPath 编码器的 22M 参数 ViT-S 骨干替代原模型,在 PANDA 前列腺分级和 EBRAINS 脑肿瘤分型基准上以约 50 倍更少算力达到原 GigaPath 3% 以内的性能。
Liquid AI 为 LFM2.5 家族的 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点,通过投机解码在不改变输出质量的前提下提升解码速度,GPU 上吞吐最高提升 3.18 倍,端侧最高 2.87 倍。
推荐理由:官方给出三个模型在 H100 与 MacBook 上的实测加速比和调用方式,可据此判断端侧推理的可用性。