Amazon SageMaker AI 实时端点现支持 KV cache 感知路由
Amazon SageMaker AI 实时端点新增 KV cache-aware routing 策略,按容器报告的缓存状态选择实例。它用托管缓存索引按 token 匹配最长缓存并权衡负载,无有效匹配或匹配实例都繁忙时回退到 load-aware routing。
Amazon SageMaker AI 实时端点新增 KV cache-aware routing 策略,按容器报告的缓存状态选择实例。它用托管缓存索引按 token 匹配最长缓存并权衡负载,无有效匹配或匹配实例都繁忙时回退到 load-aware routing。
OpenAI 发布 GPT-6.2 Astra 和 GPT-6.2 Sol,称两款模型在基准上超过前代,并已在 ChatGPT Work、Codex 和 OpenAI API 开放。
寒武纪宣布完成商汤 SenseNova Loop-9B 的 Day 0 适配,基于 vllm_mlu 打通 MLU 平台推理链路。该模型通过 Loop 结构将 32 层扩展为 56 次计算,4bit 量化后权重约 4.9GB,部署显存需求低至 10GB 内。此次适配紧随商汤昨日发布该模型,旨在降低本地与私有化部署门槛。
ArisGlobal 在 Amazon Bedrock 上通过前置并缓存共享提示词前缀,在不让成本按比例增长的情况下扩展多租户生成式 AI 推理。实现使用 Anthropic Claude Sonnet 4.5,此前共享前缀 6 个月增长约 150%,每案例推理成本增加超过 200%;调整后典型请求 65% 的输入 token 由缓存提供。
推荐理由:原文用生产指标说明调整缓存对象能降低输入成本,并提供多租户场景下可迁移的请求排序和缓存监控经验。
中关村两院开源材料科学智能体 MatOS,在 MatTools 基准上以 97.96% 的完整问题成功率超越 Codex CLI 和 Claude Code。该系统资产库包含 3,135 个数据集和 48 款软件,支持从 3000 多万个结构中筛选出 97 个固态电解质候选。此前该项目于 9 月发布年度科研进展,现已在 GitHub 开源代码。
前 AWS 资深首席科学家李沐正式出任硅谷 AI 公司 Aimotion 的联合创始人兼 CTO,负责搭建其下一代产业级 AI 技术体系。Aimotion 面向汽车等高价值行业提供 AI 销售与营销解决方案,近期完成由 BAI Capital 领投的数千万美元 A 轮融资。李沐将继续担任 Boson AI 联合创始人兼 CTO,促成两家公司联合攻关产业级世界模型与商业 AI Agent 技术。
Cloudflare AI 平台产品负责人 Michelle Chen 在 AI Engineer Code Summit 上称公司正转向 Neolab,并已推出 Clef 和 Clairic 两个 System One 模型。
商汤科技今天(17 日)晚间正式发布 SenseNova Loop-9B,4bit 量化后权重约 4.9GB、部署显存需求低至 10 GB 内。该模型通过 Loop 结构复用模型层参数并结合流形约束超连接(mHC),在约 9B 参数规模下扩展到 56 次层计算,上下文长度最高可达 512K tokens。
我国快递业务量已连续两个月超过 170 亿件,快递企业运用大模型统筹航空、铁路、公路等运力资源,动态输出调度策略。10 月重点地区 72 小时妥投率为 86.7%,同比提升 0.9 个百分点。此前 1—9 月快递业务量累计完成 1513 亿件,同比增长 4.3%。
Hugging Face 已将 Inference Providers 的语言模型请求路由切换至 OpenRouter,开发者可沿用原 token 和 API 调用开放权重模型。
欧洲云服务企业 OVHcloud 宣布推出首个 AI 模型家族 Olala,并开源发布首个成员 Olala mini 7A1B。该模型总参数 70 亿、激活参数 10 亿,采用混合注意力机制,在 8GB 显存 GPU 上可实现 160 TPS 吞吐量,训练总开销达 700 万欧元。
开源项目 Garlic LLM 可让越狱版 PS4 本地运行 9B 参数大语言模型,代码生成最高每秒 43 个 Token,可在无需联网时完成 AI 聊天与语音对话。
英特尔公布数据中心 GPU D270 性能数据,该 350W 加速卡在期权定价等金融测试中吞吐量最高达英伟达 RTX PRO 6000 Blackwell 服务器版的 5.9 倍。D270 基于 Xe 3P 架构,配备 160 GB LPDDR5X 内存,支持原生 FP64 计算,旨在通过开放软件栈满足 HPC 与智能体 AI 推理需求。
阿里通义千问 Qwen4-Max 正式上线,采用 MoE 架构并原生支持视觉理解,提供 100 万 Token 上下文窗口,任务成本较上一代降低超 60%。该模型已开放 API 接入,后续将开源小尺寸模型。
OpenAI 的 GPT-6 Astra 帮助物理学家 Nathaniel Craig 生成一项可能解决粒子物理 50 年难题的证明。Craig 在 OpenAI 博客和预印本论文中介绍,方案针对 overlap fermions 的相位设置,通过比较越来越细的晶格来修正原始晶格上的相移,GPT-6 Astra 主导了详细证明。
Hugging Face 将 Inference Providers 的语言模型请求切换到 OpenRouter,用户可用同一 Hugging Face token 和 API 调用 Hub 上由服务商承载的开放权重模型。
推荐理由:文章把语言模型请求的路由变化、可观测入口和自定义密钥限制放在一起,读者可据此判断现有工作流需要怎样调整。
阿里巴巴发布 Qwen4-Max,以更低价格对标 Opus 5.5、GPT-6 和 Kimi K3.1 Pro。Qwen4-Max 采用混合专家架构,有 2.4 trillion 参数、每个 token 激活 71 billion 参数,支持原生处理图像和 one-million-token 上下文窗口,并通过三层压缩上下文、第四层聚焦重要部分降低长输入成本。
NVIDIA Vera Rubin 平台在 MLPerf Training v6.1 中横扫全部基准,并在 MLPerf Endpoints 智能体推理测试中领先。
新基准 FrontierML 显示,前沿 AI 系统能利用资金外包任务以提升自身性能,其中 Opus 5.5 在 $200 预算下得分提升 58.8 分,优于人类研究员的 66.1 分基线。
是石科技正式发布多模态模型服务,通过自适应加速技术实现视频生成端到端平均2.48倍提速,且保持生成质量。该服务结合SGLang优化显存管理,并采用模态自适应Token压缩在WorldSense评测中实现1.33倍加速。此前AI视频生成常面临推理速度与质量难以兼顾的困境,此次发布旨在解决批量生产中的效率与成本平衡问题。
由朱松纯教授发起、北京通用人工智能研究院孵化的通芯智能成立于今年4月,短短半年连续完成种子轮和天使轮融资,合计数亿元。资金将主要投入流片前核心架构设计与研发,其面向AGI算法的新型推理芯片兼容当下主流模型,并为逻辑、因果、价值推理等计算增加专用硬件支持。首代产品定位高性价比推理芯片,瞄准云端大模型、世界模型和具身智能端侧计算,成立三个月完成架构设计和立项,12月初将开展FPGA原型验证。
腾讯混元团队正式推出 Hy4 flash,官方将其定位为迄今性价比最高的 Hy 模型。该模型总参数量 224B、每个 token 激活 12B,支持多模态输入与 100 万 token 上下文长度。
长安汽车牵头打造的全球首例车路云一体化数实融合无人化试验场配套测试系统在 2026 世界智能网联汽车大会上正式展出。该系统以大模型为核心,支撑 L2-L4 级车型验证,使平均测试效率提升 300%,极限工况覆盖率提升至 80%。此前该系统已于 2026 年 9 月 4 日在第六届长安科技生态大会上首次公开亮相。
阿里通义千问团队正式推出新一代旗舰模型 Qwen4-Max,采用全新 MoE 架构,主干参数规模达到 2.4 万亿。正式版接入千问 AI 平台,开发者可通过 Token Plan 或 API 调用,模型原生支持视觉理解和 100 万 Token 上下文窗口。
腾讯 WorkBuddy 国际版正式上线谷歌 Gemini 4 Carbon 模型,目前仅面向 Pro 计划用户开放。该模型支持文本、图像、音频和视频输入,输入与输出合计上下文窗口最高可达 100 万 Token。此前 WorkBuddy 已接入 Kimi-K3.1-Pro 等支持百万上下文的模型。
华为鸿蒙生态用户数达 9980 万,预计数日内突破 1 亿;BLG 战队 3:1 战胜 GEN 夺得《英雄联盟》S16 冠军,终结韩国中单 13 届夺冠纪录。余承东公布 Mate X8 外观,苹果智能眼镜原型机曝光,预计 WWDC2027 发布。
OpenAI 探索了标准模型的非微扰晶格定义候选方案,并展示了 GPT-6 Astra 如何将这一构想转化为详细证明。该工作旨在利用大语言模型辅助解决高能物理中的复杂理论推导问题。
华为云 MaaS 平台正式上线开源盘古模型 openPangu-2.1-Pro,围绕 Agent 开发、AI 编码和推理优化三大方向进行能力升级。该模型基于 10 万余条专项数据优化 Skills 触发与工具调用,并针对鸿蒙 ArkTS 及昇腾算子生成进行适配,推理输入价格为 0.8 元/百万 tokens。
黄仁勋辞任英伟达CEO,继任者预计收紧对AI初创企业的投资。过去一年英伟达参与105轮融资且常任最大投资方,其策略转向将令依赖资金与背书的新兴公司面临融资与估值压力。黄仁勋执掌这家芯片巨头33年后离开。
推荐理由:黄仁勋辞任英伟达CEO后,继任者预计收紧对AI初创企业投资,许多依赖其资金与背书的新兴公司面临融资与估值双重压力。
韩国电信运营商 LG U+ 将于明年进军 AI Token 业务,利用自研技术帮助企业降低 AI 转型成本。其自研端侧 AI 模型体积缩小三分之一,性能达通用云端模型的 95% 以上,Token 生成速度提升两倍以上。随着 LG U+ 加入,韩国三大电信运营商将全部进入 Token 经济领域。
Gemini 4 Carbon 登顶 MathArena 数学基准,但测试成本是 GPT-6.1 Sol 的 15 倍。该模型准确率 85.4% 居首,Claude Fable 5.2 以 82.8% 位列第二,GPT-6.1 Sol 第三。Gemini 4 Carbon 常见失败为超时,曾运行脚本超十一小时未检查。
Anthropic 称使用 Claude Opus 5.5 应放弃 think hard 等旧提示语,并从 Medium 努力级别起步以发挥性能。在内部测试中 Opus 5.5 在 Medium 匹敌前代 Opus 5 的 High,且图像读取精度显著提升。该模型现为 Pro、Max、Ultra 和 Team 计划的默认模型。
前 OpenAI 董事 Helen Toner 在 The Verge 访谈中表示,AI 实验室对 RSI 与超级智能的追求正与商业激励冲突,原有董事会问责已失效。她指出对齐技术远未解决,自主智能体加剧网络与生物安全风险,并探讨以更高安全门槛约束训练。Toner 曾参与罢免 Sam Altman,此事以 OpenAI 重组告终。
UniPat AI牵头推出湿实验预测基准SPU,覆盖116任务4207实验,首评12款前沿模型最高平均仅0.486分且超随机比例低。模型配8小时H20自主预测,GPT-6 Astra推理强度成本增5.3倍但得分几乎不变,数据集与代码已开源。
上汽奥迪 AUDI E7X 计划于 12 月通过 OTA 推送由 Momenta R7 世界模型赋能的全景辅助驾驶升级。此次升级解锁车位到车位、漫游模式及车头泊入功能,高速恐慌应对能力提升 15 倍以上,危险变道防控能力提升近 5 倍。此前该车已上市并标配全景辅助驾驶,此次为功能进阶。
谷歌打造Gemini驱动的Teamwork多智能体系统,形式化验证韦伊猜想等数学证明,并通过Antigravity开放给1万学者。该系统以多智能体并行与独立质疑验证降低长推理错误,并应用于分子识别(Top-1 95%)及将libgav1从C++重写为17万行Rust。
开源 AI 推理项目 llama.cpp 与 ggml 库版本迈入 1.0.0,明确主版本号标记不兼容变更的规则,已支持超 150 种模型架构变体。版本规则让依赖库的应用从版本号判断升级边界,团队在多家硬件商支持下扩大跨平台测试覆盖。
Google 面向外部研究者和开发者开放 Antigravity 中的 /teamwork 与 /boost 多智能体工具,支持结合 Gemini 4 模型开展长程科学证明与工程任务。
推荐理由:这些多智能体工具向外部开放,研究者可借 Gemini 4 与验证环路自行开展大规模证明与工程任务。
Meta 未发布的模型 Muse Spark 1.4 在 RocksDB 仓库的拉取请求测试笔记中曝光,显示其已用于内部生产工具。该模型单次调用消耗 33,535 输入 token 和 8,169 输出 token,耗时约 65 秒。此前 Muse Spark 1.3 于 9 月 2 日发布,提供 1M token 上下文,此次 1.4 的内部使用暗示新版本可能即将推出。
无界前沿今日开源生物信息大模型Fx-Bio-1031,在BioMysteryBench困难子集以70.59% Pass@5超越GPT-6-Astra与Opus-5。该模型采用125B MoE架构激活6B参数,支持512K上下文与本地部署,权重基于Qwen3.8-Flash-Next后训练并开放于Hugging Face。