多智能体系统设计模式、反模式与制造经验分类
AWS Machine Learning Blog 梳理了多智能体系统的确定性工作流、自主编排、混合架构、5 类反模式和制造场景选型约束。文中用 10 个步骤各 95 percent 可靠时端到端只有 59.9 percent、20 个步骤只有 35.8 percent 的例子说明依赖交接会放大风险。
推荐理由:原文给出多智能体模式与反模式的分类和决策树,帮助读者按任务确定性、专业分工与风险边界选择最简架构。
AWS Machine Learning Blog 梳理了多智能体系统的确定性工作流、自主编排、混合架构、5 类反模式和制造场景选型约束。文中用 10 个步骤各 95 percent 可靠时端到端只有 59.9 percent、20 个步骤只有 35.8 percent 的例子说明依赖交接会放大风险。
推荐理由:原文给出多智能体模式与反模式的分类和决策树,帮助读者按任务确定性、专业分工与风险边界选择最简架构。
Proximie 利用 NVIDIA Cosmos 3 优化手术室物流,使病例处理量提升 8% 且周转速度加快 45%。ConcertAI 基于 NVIDIA AI 构建的引擎将癌症患者临床试验匹配速度提升至人工方法的 3 倍,并支持高达 50% 的试验入组率。这些应用旨在减少医护人员在常规任务上的时间,使其能更专注于患者护理。
Tether AI Research 推出 BotPsy,一个基于 Qwen3.5-0.8B 的 0.8B 参数端侧智能体语言模型,在工具调用与智能体任务上达到同尺寸 SOTA。它在 BFCL v4、ACEBench 等六项基准中五项超过 2.5 倍大小的 Qwen3.5-2B-Think,并以 Apache 2.0 许可证开源权重。
Gradium 解析其两周前开放的设备端 TTS 模型 Phonon,给出它在 Hugging Face Open TTS Leaderboard 的评测与离线演示。Phonon 31m 约 65MB 且 Apache 2.0 开源,在德语西班牙语 intelligibility 排名第一,CPU 流式延迟领先。这是 Phonon 首个开源发布,两周下载超 200,000 次。
推荐理由:文章详细列出 Phonon 在 Hugging Face Open TTS Leaderboard 的多语种 intelligibility 排名与 CPU 流式延迟优势,便于评估小体积语音模型端侧落地可行性。
Hugging Face 发布 AnySpeechRecognizer 和 AnyDecisionModel 两个 Swift 包,让 Apple 平台开发者用熟悉 API 在设备端运行开源语音识别和决策模型。
推荐理由:这两个 Swift 包让 Apple 平台开发者用熟悉 API 在设备端运行多种开源语音与决策模型,扩展原生能力并支持说话人分离。
NVIDIA 发布 Nemotron 3.5 Transcribe 开放权重语音模型,单个提示词模型处理转录、说话人标注与翻译,登顶 Hugging Face Open ASR。该模型约43亿活跃参数,较头部开放模型少80%资源,便于本地硬件运行;RTX Spark 笔记本同步新增代理 GPU 资源分配及 Phantom Blade Zero 等游戏 RTX 支持。
推荐理由:NVIDIA Nemotron 3.5 Transcribe 以约43亿活跃参数登顶 Hugging Face Open ASR,较榜首开放模型省八成参数,便于本地转录。
Exowatt借助Amazon SageMaker AI无服务器模型定制微调Qwen3-1.7B与Qwen3-14B,在告警分类和能源市场分析任务上准确性超越前沿模型且成本最高降至1/49。流水线覆盖数据准备、微调、评估与边云部署,边缘模型量化至8位运行于现有CPU,云端模型经Bedrock导入按活跃计费无闲置成本。该实践源于Exowatt设备群从测试台向制造与现场单元扩展时对可缩放AI层的需求。
LFM3 提供文本、视觉、音频、omni 和决策等六种 2B 参数级模型,基于统一骨干,可用于构建专用多模态智能体。相比 LFM2 家族,LFM3-1.7B 用少 35% 参数超越 LFM2.5-2.6B;所有模型今天在 Hugging Face 开放权重。
推荐理由:LFM3以统一骨干提供六种2B级模态模型,可在单GPU微调并端侧部署,降低专用多模态智能体构建门槛。
AWS 推出基于 Strands Agents 的自适应智能体框架 AAIF,通过本地小语言模型处理常规任务,复杂请求路由至 Amazon Bedrock。该架构使用 llama3.2:1b 作为编排器,支持在 Raspberry Pi 等边缘设备上运行,旨在降低 API 成本并减少延迟。
NVIDIA 在 GTC Berlin 展示 RTX Spark、DGX Spark 及 DGX Station 等本地 AI 硬件。RTX Spark 支持 Windows 个人智能体,DGX Spark 64GB 版本于 10 月 23 日上市,DGX Station 提供 748GB 内存。此前 RTX Spark 已于上周发布,DGX Station Windows 版预计 12 月推出。
Hugging Face 发布 AnyLanguageModel 1.0,为 Apple 平台提供兼容 Foundation Models 的 Swift API,可用同一代码调用本地与托管模型。
PyTorch 2.15 为 Mac 的 MPS 后端带来 FP8 支持与专用 Metal 内核,MoE 模型解码较 2.14 提速 5–6.5 倍,Wan2.2 视频 VAE 解码显存从 270 GiB 降至 8 GiB。softmax 与线性代数运算也显著加快,并新增 Python 层 MPS 流控制。
推荐理由:PyTorch 2.15 在 Mac 的 MPS 后端加入 FP8 与 Metal 内核,使 MoE 模型解码提速 5 至 6.5 倍,视频生成显存由 270 GiB 降至 8 GiB。
NVIDIA RTX Spark 笔记本现已上市,搭载 Blackwell RTX 显卡与最高128GB统一内存,起售$2,399。ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 等厂商推出机型,NVIDIA 在柏林等全球六城举办上市庆祝活动,黄仁勋现身并发放五台签名笔记本。
NVIDIA 于 10 月 16 日全球发布 RTX Spark,这是一款专为创作者、游戏玩家及 AI 智能体打造的 Windows PC。媒体评测称其本地 AI 性能表现惊艳,且拥有广泛的软件优化支持。这是 NVIDIA 在 PC 领域推出的全新平台,旨在通过本地 AI 能力重新定义个人计算体验。
NVIDIA 今日发布 Nemotron 3.5 Super VL 与两款 Bolt 边缘模型,覆盖从企业服务器到边缘的智能体部署。Super VL 为 120B 参数多模态模型,速度快达同类 5x 且以约五分之一参数量媲美 NVIDIA 最大推理模型精度;Bolt 74B-A9B 24GB 与 Bolt E4B 4GB 针对本地硬件优化,后者 10 月 23 日推出。
推荐理由:NVIDIA 新发 Nemotron 3.5 Super VL 以约五分之一参数量媲美自家最大推理模型精度,并开放权重供组织在自有设施微调部署。
Google Research 在 2026 年 Research@ 活动上展示了 10 项 AI 创新,包括 Google Earth AI、多智能体编排工具及 Deep Review 等。其中 Deep Review 已用于审查超 16,000 篇论文,现向公众开放以验证技术文档。这些工具旨在通过 AI 放大人类创造力,赋能医生、科学家及开发者解决复杂问题。
Google DeepMind与新加坡政府合作交付了一款设备端诈骗检测微调模型,基于Gemma微调以在手机上识别诈骗对话并保护隐私。该模型通过两阶段管线在设备端分析对话触发实时警告,规避了云端扫描无法检查端到端加密消息的限制。新加坡诈骗自2019年以来损失超S$4 billion占罪案过半,此合作提供隐私保护型安全路径。
LFM2.5-24B-A2B发布,一个24B参数MoE推理模型,仅2B活跃参数,专为端侧快速私有智能体设计。该模型在LiveClaw智能体基准得分48.09,高于Qwen3.6-35B-A3B的38.19,并在Apple M5 Max上实现184 tok/s解码速度。它基于LFM2-24B-A2B架构,将上下文窗口从32K扩展至131K tokens,今日起在Hugging Face开放权重。
推荐理由:该24B参数MoE模型仅2B活跃参数,在智能体任务上接近参数多50%的Qwen3.6-35B-A3B,并支持端侧184 tok/s运行。
NVIDIA 与 Microsoft 联合发布 RTX Spark 及 DGX Station for Windows,旨在将 AI 智能体深度集成至 Windows 生态。
今日 Liquid AI 发布开放权重 d1 决策模型 d1-3B 与实验性 d1-omni-600M,可在边缘设备做多模态决策。d1-3B 在 Decision Index 0.2.1 得 48.57 分超 Decider 35B-A3B,于 Jetson 延迟低至 16 毫秒。模型基于 LFM 单前向传播不生成 token,已在 Hugging Face 开放。
推荐理由:Liquid AI 开放 d1-3B 等决策模型权重,以单前向传播在 Jetson 实现低于 50 毫秒多模态推理。
Google DeepMind 发布 EmbeddingGemma 2,一个 740M 参数、基于 Gemma 4 架构并采用 Apache 2.0 许可的开源多模态嵌入模型,可将文本、代码、图像、视频和音频统一映射到嵌入空间。
推荐理由:原文给出了轻量多模态嵌入模型的端侧性能指标与模块化设计,读者可据此评估本地 RAG 与跨模态搜索的可行性。
NVIDIA 推出 DGX Spark 的 64GB 统一内存版本,10 月 23 日起由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 开售,起售价 4,999 美元。
推荐理由:64GB 版本以 4,999 美元起售并支持双机集群,读者可据此判断本地智能体的内存容量与成本边界。
Liquid AI 发布 LFM2.5-VL-DSpark 实验性草稿模型,为 LFM2.5-VL-3B 视觉语言模型引入推测解码路径。该模型增加 280M 参数,在 H100 上实现最高 2.66x 解码加速,并支持 llama.cpp、MLX-VLM 和 SGLang。
Hugging Face 宣布 transformers 库新增对 GGUF 格式模型的支持,允许用户通过 from_pretrained 接口在本地加载并运行量化模型。该功能目前主要面向 Apple Silicon 设备,通过复用 ggml 内核实现接近 llama.cpp 的推理性能,并支持通过 transformers serve 暴露 OpenAI 兼容 API。
推荐理由:原文展示了在 transformers 中直接加载 GGUF 量化模型的方法,并给出了 Apple Silicon 上的性能对比数据。
oMLX 创建者 Jun Kim 加入 Hugging Face,继续领导该项目并保持 Apache 2.0 开源协议。Hugging Face 将利用 oMLX 作为新想法的测试平台,重点优化从 transformers 模型定义到 MLX 参考实现的转换流程,以加速本地 AI 生态发展。
Google Research 提出 PhotoScan,一个从普通 2D 手机照片估算体脂率、Android-to-Gynoid 脂肪比(A/G)和内脏与皮下脂肪面积比(V/S)的深度学习框架。
Google DeepMind 发布多语种手语转文本模型 SL2T,首次将手语 AI 带入消费级产品,在 Pixel 11 的 Gboard 和 Live Transcribe 中支持美国手语(ASL)转英文听写,后续将扩展更多设备与语言。
推荐理由:SL2T 把多语种手语翻译从实验室带进 Gboard 与 Live Transcribe,读者可了解其数据规模与隐私设计。
K-Search 框架扩展了 MLX 后端,通过结构化翻译层将 CUDA 内核知识自动适配为 Apple Silicon 的高性能内核。该方法在 Apple Silicon 上达到接近专家水平的性能,相比原生 MLX Attention 内核实现 0.97x 加速,并在 Mamba SSM 内核上较社区 mlx-lm 实现获得最高 20x 的 prefill 加速。
Google Research 发布一种新架构,把多 Token 预测(MTP)头接到已冻结的 Gemini Nano v3 模型上,在不改动主干权重的前提下加速端侧推理。
推荐理由:Google 把 MTP 头接到冻结的 Gemini Nano v3 上,给出端侧推理在内存与能耗约束下的具体优化路径。
Google DeepMind 发布 Gemma 4 12B,一款面向笔记本电脑的智能体多模态模型,介于 E4B 与 26B MoE 之间,是首个支持原生音频输入的中等规模 Gemma 模型。
推荐理由:Gemma 4 12B 去掉多模态编码器并把视觉音频直接接入 LLM,读者可据此判断本地多模态智能体的硬件门槛。
Google Research 在 Nature 发表研究,提出 PHRM 系统,利用手机前置摄像头在面部解锁后采集 8 秒面部视频,通过端侧深度学习估算心率,与心电图对比的平均绝对百分比误差低于 10%,覆盖所有肤色人群。
推荐理由:Google 用手机前摄在解锁后被动测心率,并公开迄今最大规模手机视频数据集与预训练模型。
Google 发布一套零信任隐私分析方案,将新型单次消息密码学聚合协议与 TEE 结合,使设备无需多轮在线即可提交数据。该方案保证 Google 只能获得匿名化的群体聚合洞察,原始数据即使在硬件保护范围内也不会被解密或重建,TEE 认证则向参与者证明协议按公开代码正确执行。
Mistral 发布 Mistral 3 系列,包括 14B、8B、3B 三个小尺寸稠密模型和迄今最强的 Mistral Large 3,后者为稀疏 MoE,41B 激活参数、675B 总参数,全部以 Apache 2.0 许可开源。
推荐理由:Mistral 3 全系以 Apache 2.0 开源并给出从 3B 到 675B 的规格与部署路径,读者可据此判断开源前沿模型的可用边界。
Mistral AI 发布 Mistral Small 3.1,在 Mistral Small 3 基础上提升文本性能与多模态理解,上下文窗口扩展至 128k tokens,推理速度达 150 tokens/s,以 Apache 2.0 许可开源。
推荐理由:官方给出 128k 上下文、150 tokens/s 与 Apache 2.0 开源等参数,可据此判断小模型在端侧与多模态场景的可用性。
Mistral AI 发布 24B 参数模型 Mistral Small 3,采用 Apache 2.0 许可,在 MMLU 上准确率超 81%、延迟 150 tokens/s。
推荐理由:24B 参数对标 Llama 3.3 70B 且同硬件下快 3 倍以上,可据此判断本地部署的性价比。