Amazon SageMaker AI 实时端点现支持 KV cache 感知路由
Amazon SageMaker AI 实时端点新增 KV cache-aware routing 策略,按容器报告的缓存状态选择实例。它用托管缓存索引按 token 匹配最长缓存并权衡负载,无有效匹配或匹配实例都繁忙时回退到 load-aware routing。
Amazon SageMaker AI 实时端点新增 KV cache-aware routing 策略,按容器报告的缓存状态选择实例。它用托管缓存索引按 token 匹配最长缓存并权衡负载,无有效匹配或匹配实例都繁忙时回退到 load-aware routing。
AWS 发布教程,讲解如何在生成式 AI 工作流中先判断步骤是否需要模型,再按确定性代码、受约束决策调用和合适规模模型分流。文章用客服助手示例说明,格式检查、关键词快路径和固定队列选择可先于模型执行,开放生成任务再用 Amazon Bedrock 中满足要求的最小模型。
推荐理由:原文给出一套先判断工作流步骤是否需要模型,再分流到规则、受约束决策调用和合适规模模型的成本优化方法。
文章演示了 Amazon Bedrock AgentCore 调用 Snowflake Cortex AI 时的三种 OAuth 认证配置。测试涵盖 Snowflake 原生 OAuth、基于第三方 IdP 的三腿 OAuth 及两腿 OAuth,并支持 OBO 授权。这些模式解决了企业级 AI 智能体在访问外部工具时的身份验证与权限管理问题。
AWS Agent Registry 现已支持自定义元数据模式,允许管理员定义组织特定的键值对并强制所有记录遵循该模式。该功能通过验证环境、业务单元等字段,实现了基于结构化证据的治理与合规,并支持结合自然语言查询和元数据过滤进行资源发现。此前,组织在 AWS Agent Registry 中无法定义这些特定事实并存储于每条记录中。
AWS Forward Deployed Engineering 现已在美国、日本等 15 个国家面向商业及公共部门客户开放,旨在解决 AI 从演示到生产的“最后一公里”难题。该服务通过构建基础架构、自动化工作流及治理体系,帮助三星生命保险在 45 天内建立受治理的智能体平台,并协助 Marsh 实现高达 70% 的效率提升。AWS 于 6 月推出该服务,以填补原型与生产环境间的差距。
Amazon SageMaker 新增 AI 数据准备功能,支持通过 Python SDK 和 AWS AI-ML agent skill 生成合成数据、评估及改进现有数据集。该功能包含自动标注、人工审核、数据质量评估及转换等独立模块,可链式组合以简化从原始数据到训练的工作流。Splunk 等团队已利用其合成数据生成能力,加速构建特定任务的评估模型。
Astra for Law 在涵盖 24 个法律领域的发布评测中排名第一。目前,所有 ChatGPT Enterprise 客户均可申请访问权限。
OpenAI 发布 GPT-6.2 Astra 和 Sol,称其在 ChatGPT Work、Codex 和 API 中带来更好的专业输出、编码和 computer use 能力,并以更低成本提升效率。
推荐理由:原文给出了专业输出、编码和 computer use 的改进范围,并列出 ChatGPT Work、Codex 和 API 三个可用入口,便于读者对照现有使用路径判断适用场景。
Aionic Labs 开源的时序语言模型 OpenTSLM 现已在 Amazon SageMaker JumpStart 上线,支持在 AWS 环境中部署。该模型结合数值测量与文本上下文,帮助 Nexthink 的 Spark 智能体实现主动 IT 支持。此前 OpenTSLM 仅作为开源模型发布,此次接入 SageMaker 提供了标准化的模型发现与部署路径。
AWS 推出开源 Python SDK 和 Terraform 栈 SMART,用于在 Amazon Bedrock AgentCore 上构建 WhatsApp AI 智能体。
AWS 为构建 Agentic AI 平台的团队提供了一份分阶段的负责任 AI(RAI)实施路线图,涵盖治理基础、试点部署及评估加固三个阶段。该方案旨在解决非确定性输出、数据暴露及监管合规等挑战,并配套提供 RAI 评估技能与记分卡,帮助平台与应用团队在 12 周内建立治理框架。
LoanPro 与 AWS 合作,基于 Amazon Bedrock AgentCore 和 Strands Agents SDK 构建了多智能体 AI 贷款服务助手。该助手利用 Claude Sonnet 5.5 等模型整合借款人数据,使客户通话时间最多减少 15%。
AWS Quick 是专为工作场景打造的 AI 工作区,支持团队共享仪表盘、智能体及自动化流程,并内置企业级安全与治理。在 AWS re:Invent 2026 上,Allianz、Cox Automotive 等客户将分享其部署经验,例如 Allianz 在六周内完成 20 万员工的 AI 赋能。该指南旨在帮助不同角色的用户找到符合其目标的会议场次。
ArisGlobal 在 Amazon Bedrock 上通过前置并缓存共享提示词前缀,在不让成本按比例增长的情况下扩展多租户生成式 AI 推理。实现使用 Anthropic Claude Sonnet 4.5,此前共享前缀 6 个月增长约 150%,每案例推理成本增加超过 200%;调整后典型请求 65% 的输入 token 由缓存提供。
推荐理由:原文用生产指标说明调整缓存对象能降低输入成本,并提供多租户场景下可迁移的请求排序和缓存监控经验。
Microsoft Research 领导人与多位专家在播客中探讨 AI 在医疗诊断、医学影像及生物基础模型中的应用前景。讨论涵盖 AI 辅助药物发现、虚拟细胞技术以及从研究到临床转化的挑战,旨在明确实现 AI 医疗净收益所需的先决条件。
NVIDIA 在 SC26 上宣布 Nemotron for Science、Rubin HPC GPU 及扩展的 Vera CPU 平台,并展示与 IBM 和费米实验室的量子计算合作。
OpenAI 与智利政府建立合作伙伴关系,旨在支持负责任的 AI 采用、建设公共部门技能并帮助当地初创企业开发 AI 应用。
OpenAI 正与北约及盟国网络机构合作,利用 AI 协助可信防御者发现漏洞、测试修复方案并保护关键系统。
Revolut 利用 OpenAI 模型和 Codex 将编码时间缩短 30%–60%,并扩展金融犯罪调查规模。该方案在推动创新的同时未降低安全标准。
Amazon Bedrock Managed Knowledge Base 与 AgentCore 记忆集成,通过 AgenticRetrieveStream 实现多租户 AI 智能体的记忆感知检索。该方案自动提取并注入用户长期事实,结合 ACL 过滤确保文档访问隔离,且保持向后兼容。此前开发者需自行持久化对话历史,现由服务自动处理会话存储与事实提取。
NVIDIA 在 SC26 推出 DGX Spark HPC 开发者套件,该四节点集群通过 ConnectX-7 直连,提供 512GB 内存和 16TB 存储。利用 NVFP4 技术,用户可在本地部署最高 700B 参数的模型(如 DeepSeek V4.1),无需等待共享集群队列。该套件旨在让研究人员在桌面端运行多节点科学工作负载和 AI 模型,HPC SDK 安装指南即将发布。
AWS Machine Learning Blog 梳理了多智能体系统的确定性工作流、自主编排、混合架构、5 类反模式和制造场景选型约束。文中用 10 个步骤各 95 percent 可靠时端到端只有 59.9 percent、20 个步骤只有 35.8 percent 的例子说明依赖交接会放大风险。
推荐理由:原文给出多智能体模式与反模式的分类和决策树,帮助读者按任务确定性、专业分工与风险边界选择最简架构。
Duco 基于 Amazon Bedrock 和 Bedrock AgentCore 重构其智能体 AI 技术栈,以处理每月 200 亿笔交易。该方案兼容现有的 LangChain 和 LangGraph 代码,通过托管运行时降低部署时间与成本,同时确保银行数据隔离。此前 Duco 依赖传统机器学习模型,但难以适应不断变化的金融数据格式与业务规则。
OpenAI 展示 Dots 在 Holiday Extras 的主动工作场景,无需用户指令即可自动交付启动报告、标记潜在问题,并在通勤途中讨论即将到来的会议。
NVIDIA 运营负责人 Deb Shoquist 荣获 2026 年 Dr. Lisa Su 女性创新奖,以表彰其构建全球 AI 基础设施供应链的贡献。她通过深度绑定 TSMC、Foxconn 等合作伙伴,实现了从芯片到系统平台的规模化制造,例如支持 Amphenol 生产高精度线缆组件。
MoEngage 基于 Amazon Bedrock AgentCore 构建 Merlin AI 智能体系统,通过 MCP 协议将现有 API 转化为智能体可调用的工具。该系统利用 Claude Sonnet 4.6 等模型实现跨渠道营销自动化,客户 Glance 的推送点击率因此提升 38%。
OpenAI 发布报告,展示超过 1,800 名科学家在科研中使用 ChatGPT 的情况。报告涵盖日常工作流程、报告的生产力提升以及对科学发现的预期。
OpenAI 推出新工具、实用指南及合作伙伴关系,旨在帮助预防、检测和应对在线儿童性剥削与虐待。
OpenAI 扩展 ChatGPT for Academic Researchers 项目,让全球200,000名研究者免费访问其前沿模型。
Hugging Face 将 Inference Providers 的语言模型请求切换到 OpenRouter,用户可用同一 Hugging Face token 和 API 调用 Hub 上由服务商承载的开放权重模型。
推荐理由:文章把语言模型请求的路由变化、可观测入口和自定义密钥限制放在一起,读者可据此判断现有工作流需要怎样调整。
Novo Nordisk 基于 Amazon Bedrock AgentCore 构建智能支持系统,利用 GraphRAG 架构和 Anthropic Claude 模型优化制药制造文档管理。该系统通过知识图谱与混合搜索结合,帮助专家将原本耗时数小时或数天的工作缩短至几分钟,并解决传统 RAG 在受监管环境中处理精确标识符和多跳关系时的局限性。
该方案利用 Amazon Bedrock、Kiro IDE 和 AWS Transform 将大型机 Assembler 代码转化为 Java Spring Boot 服务。
TokenEconomizer 利用代码仓库中的历史会话降低 AI 编码智能体 token 成本,是来自 UC Berkeley、Microsoft Research 和 Microsoft Security 的开源插件。
推荐理由:研究给出了利用仓库历史会话降低 AI 编码智能体 token 成本的方法,并在 277 个真实缺陷修复任务中报告成本下降且成功率大体稳定。
Amazon Bedrock 上的开源权重模型现已支持显式提示缓存,允许用户通过 Chat Completions API 标记可复用前缀以降低成本和延迟。该功能与隐式缓存互补,显式模式适用于固定共享前缀场景,可避免为未复用的动态内容支付更高的缓存写入费用。
Amazon Bedrock Managed Knowledge Base 新增检索指令功能,允许为不同租户定制回答的语气、格式及策略。该功能通过版本化资源管理指令,支持在共享知识库中实现多租户差异化服务,但需配合元数据过滤器进行数据隔离。此前用户需关闭响应生成并自行维护提示词以实现固定风格。
针对 Amazon Bedrock Guardrails 中 Denied Topics 常因语义匹配过宽导致误拦截合法查询的问题,文章提出八项编写最佳实践。核心建议是将主题定义聚焦于用户具体意图而非宽泛领域,并规范名称、定义及示例的撰写以避免边界模糊。
Amazon Bedrock Managed Knowledge Base 新增表格搜索功能,支持通过 agentic retrieval 从 CSV、XLSX 或 XLS 文件中获取答案。该功能在隔离沙箱中运行代码以处理整张表格,结合文档事实回答需多步计算的复杂问题,适用于财务分析等场景。
NVIDIA 在 SC26 发布 Rubin HPC GPU,旨在加速科学、工程和数据分析工作流中的模拟与数据处理。该 GPU 配备超过 50,000 个 CUDA 核心及第七代 NVLink 互连技术,通过稀疏数据加速能力优化计算效率。Rubin HPC 预计于 2028 年可用,此前 NVIDIA 已推出 Vera Rubin 平台。
NVIDIA 在 SC26 上庆祝 CUDA 平台 20 周年,回顾其自 2006 年发布以来如何推动科学计算与 AI 发展。目前全球已有超过 1100 万开发者基于 CUDA 构建应用,该生态支撑了从分子模拟到深度学习的关键突破。
NVIDIA 扩展 CUDA-X 库(含 cuPhoton、cuPotential、cuSpa),为 AI 智能体提供加速科学发现工具。cuPhoton 将黑洞观测分析从一个月缩短至 8 分钟,cuSpa 实现 900 倍加速,cuPotential 提升分子模拟 3 倍。这些加速帮助科学家处理更大数据集并实时引导模拟,是 SC26 大会发布的一部分。