Amazon SageMaker AI 实时端点现支持 KV cache 感知路由
Amazon SageMaker AI 实时端点新增 KV cache-aware routing 策略,按容器报告的缓存状态选择实例。它用托管缓存索引按 token 匹配最长缓存并权衡负载,无有效匹配或匹配实例都繁忙时回退到 load-aware routing。
Amazon SageMaker AI 实时端点新增 KV cache-aware routing 策略,按容器报告的缓存状态选择实例。它用托管缓存索引按 token 匹配最长缓存并权衡负载,无有效匹配或匹配实例都繁忙时回退到 load-aware routing。
Amazon Bedrock Managed Knowledge Base 与 AgentCore 记忆集成,通过 AgenticRetrieveStream 实现多租户 AI 智能体的记忆感知检索。该方案自动提取并注入用户长期事实,结合 ACL 过滤确保文档访问隔离,且保持向后兼容。此前开发者需自行持久化对话历史,现由服务自动处理会话存储与事实提取。
Novo Nordisk 基于 Amazon Bedrock AgentCore 构建智能支持系统,利用 GraphRAG 架构和 Anthropic Claude 模型优化制药制造文档管理。该系统通过知识图谱与混合搜索结合,帮助专家将原本耗时数小时或数天的工作缩短至几分钟,并解决传统 RAG 在受监管环境中处理精确标识符和多跳关系时的局限性。
Amazon Bedrock Managed Knowledge Base 新增检索指令功能,允许为不同租户定制回答的语气、格式及策略。该功能通过版本化资源管理指令,支持在共享知识库中实现多租户差异化服务,但需配合元数据过滤器进行数据隔离。此前用户需关闭响应生成并自行维护提示词以实现固定风格。
Amazon Bedrock Managed Knowledge Base 新增表格搜索功能,支持通过 agentic retrieval 从 CSV、XLSX 或 XLS 文件中获取答案。该功能在隔离沙箱中运行代码以处理整张表格,结合文档事实回答需多步计算的复杂问题,适用于财务分析等场景。
AWS 在 Agent Toolkit for AWS 的 amazon-bedrock 技能中新增迁移指南,协助编码智能体将客户自管知识库迁移至 Amazon Bedrock 托管知识库。
该方案利用 Amazon Bedrock AgentCore Gateway 在工具层注入经身份验证的用户属性,防止 LLM 伪造搜索权限。结合 Managed Knowledge Base 的 ACL 感知功能,确保多租户环境下每个用户仅能检索其有权查看的文档。此设计通过多层防御机制,解决了传统应用中由 LLM 决定搜索参数可能引发的越权访问风险。
文章演示了 Java 团队如何利用 Amazon Bedrock 和 Spring AI 构建具备规划、工具调用及记忆能力的自主 AI 智能体。方案包含单智能体旅行助手和多智能体文档处理系统,支持通过 AgentCore 实现生产级部署与治理。
AWS 提供 23 个生产级生成式 AI 可复用资产,旨在将开发周期从数月缩短至数周。DoorDash 利用该资产实现测试容量提升 50 倍,Ricoh 将文档处理吞吐量提高 7 倍。这些资产自 2023 年起由 AWS 生成式 AI 创新中心开源发布。
Amazon Bedrock Managed Knowledge Base 新增支持单次 RAG 和仅检索请求,通过 AgenticRetrieveStream API 实现。开发者可利用 maxAgentIteration 参数在单次检索、智能体多轮检索及仅返回片段三种模式间切换,以平衡延迟与答案质量。此前该服务仅支持智能体检索模式,无法直接表达单次检索后生成的模式。
Kuken Industries 使用 OpenAI API 检索其 70 年的冷却塔图纸库。工程师查找维修所需图纸的时间从近一小时缩短至 4.5 分钟。
Taxbit 在 Amazon Bedrock AgentCore 上构建了嵌入产品仪表盘的 AI 智能体 Taxbit Assist,用于协助合规团队处理数字资产税务问题。
AWS 团队在 Amazon ECS Fargate 上构建了无服务器 MCP 服务器,作为 AI 智能体与企业数据湖之间的集中式网关。该架构采用元数据驱动方式,新增数据集仅需提供 JSON 元数据文件即可自动发现,无需编写集成代码。此方案旨在解决 Amazon 北美分拣中心(NASC)规划团队中数据访问碎片化及新数据源接入耗时数天的问题。
U Mobile 基于 Amazon Bedrock AgentCore 构建 AI 驱动智能体客服系统 AiDaH,覆盖超 150 个运营场景。该系统使关键类别的故障工单量下降高达 84.5%,通过跨系统协调与链式推理实现自动化诊断。此前 U Mobile 仅使用基础 RAG 进行试点,现已扩展至多部门应用。
本文演示了利用 EDB Postgres AI 在 Postgres 数据库内部构建语义层,并通过 Amazon Bedrock AgentCore 运行 Strands Agents 智能体以回答客户 360 问题。
Amazon Quick 通过统一体验连接 S3 知识库与增强数据集,允许用户通过单一对话式 AI 智能体查询结构化与非结构化数据。该方案利用 Space 整合数据源,智能体可自动判断查询类型并返回带引用的综合响应,同时应用内置 AI 护栏。此功能需 Amazon Quick Enterprise 订阅,旨在解决多工具切换与手动关联结果的痛点。
Circle K 基于 Amazon Bedrock 构建自动化分诊系统,将平均事件分诊时间从 45-60 分钟缩短至 15 分钟以内,降幅达 67-75%。该系统采用 agentic AI 架构,通过 Amazon Bedrock Flows 协调多个智能体并行查询日志与基础设施状态,并在数分钟内向 Slack 推送结构化摘要。此前工程师需手动跨多个工具排查,导致分诊耗时随服务规模增长而增加。
AWS 展示如何利用 Amazon Bedrock AgentCore 和 Amazon Nova Multimodal Embeddings 构建多智能体工程助手,以自动化零部件替换评估中的证据收集与文档起草。
文章演示了如何利用开源 Python 爬虫 Crawl4AI 为 Amazon Bedrock Knowledge Bases 准备网页内容。该方案通过生成 Markdown 和元数据文件上传至 Amazon S3,实现了对网页内容的结构化清洗、自定义元数据附加及有界提取,适用于需要精细控制数据摄入的场景。
AWS 发布基于 AWS CDK 的解决方案,在 Managed Amazon Bedrock Knowledge Base 上构建企业级智能体检索系统。该系统利用 AgenticRetrieveStream API 实现多轮规划与工具驱动检索,并通过 Amazon CloudWatch 仪表盘提供全链路可观测性。
拜耳作物科学基于 Amazon Bedrock AgentCore 构建 Agentic Decision Engine (ADE),作为多智能体自然语言接口连接其 Connected Decision Engine。ADE 在生产环境运行 22 个专家智能体,利用 LangGraph 编排,第一阶段可独立解决约 80% 的用户问题。此前诊断工作流故障需超过一小时,现缩短至 10 分钟以内。
IskayPet 基于 Amazon Bedrock Managed Knowledge Bases 构建了企业知识助手,利用原生 SharePoint 连接器直接摄取文档,无需自建 RAG 基础设施。该方案支持四国语言混合检索与文档级权限控制,团队使用 Kiro 和 Claude Haiku 4.5 完成了从前端到部署的全栈开发。
U.S. Hunger 利用 Amazon Quick 连接领导层与数据,使 CEO 能直接探索 Full Cart 项目数据并减少技术团队依赖。通过 Quick Spaces 共享 KPI 定义与财务文档,17 名员工得以在统一语境下协作分析。该组织此前已交付超 2.5 亿份餐食,并实现了四年 500% 的业务增长。
NVIDIA 扩展开源 Agent Toolkit,新增 Agent Knowledge Foundation 以利用公司数据增强智能体能力。该基础包含 CUDA-X 库、Auto-Ontology 以及 Nemotron Retriever 和 Kumo 系列开放模型,支持在 Palantir、Databricks 等环境中部署。
Octave 在 Amazon Bedrock 上构建了基于 Cohere Embed v4 的三层多租户 AI 基础,将每个用例的部署时间缩短了 50%。
本文演示在 AWS 上利用 Strategy Mosaic 作为语义层,通过 MCP 协议连接 Amazon Bedrock AgentCore 托管的 Strands 智能体。
基于 Amazon Bedrock AgentCore 构建的 AI 智能体系统可自动从企业文档生成 PowerPoint 演示文稿,内部测试显示耗时不足 90 秒。
ShipStation Global 基于 Amazon Bedrock AgentCore 构建了 Slack AI IT 帮助台 Deckhand,解决了 97.5% 的渠道查询并获得 96% 的员工正面反馈。该智能体利用 Claude 模型和 MCP 工具处理常规 IT 问题、读取错误截图并自动创建 Jira 工单,将重复性咨询转化为自助服务。
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建 Discovery AI,将自然语言转换为 Sonar 查询。该方案使查询成本降低 90%、输入 token 减少 93%、延迟降低 75%,解决了早期原型高成本与高延迟问题。此前 Sonar 查询需手动构建复杂 JSON 对象,新系统通过多阶段流水线实现自动化。
Amazon Quick 和 Amazon Bedrock Knowledge Bases 通过实时访问控制列表(ACL)执行解决企业 RAG 权限难题。系统在查询时直接调用权威数据源 API 验证权限,取代易过期的同步快照,确保 AI 响应仅包含用户有权访问的内容。
Cornerstone OnDemand 借助 Amazon Bedrock 构建 Orion AI 多智能体系统,将数据库诊断时间从45分钟减少到10分钟,降幅78%。该系统采用领域拆分的专属智能体与关键词混合路由,由三人团队六个月完成,其架构决策可供其他团队复用。
Qlik 基于 Amazon Bedrock 构建 Qlik Answers,通过路由层与专家智能体架构解决企业数据查询缺乏来源验证的问题。自 2026 年 2 月正式可用以来,其 Discovery Agent 已发现超 10 万条异常,Lintech 等客户利用该工具将研究时间缩短 75%。
Google DeepMind 发布 EmbeddingGemma 2,一个 740M 参数、基于 Gemma 4 架构并采用 Apache 2.0 许可的开源多模态嵌入模型,可将文本、代码、图像、视频和音频统一映射到嵌入空间。
推荐理由:原文给出了轻量多模态嵌入模型的端侧性能指标与模块化设计,读者可据此评估本地 RAG 与跨模态搜索的可行性。
该教程展示如何使用 Amazon Bedrock AgentCore、Amazon Bedrock Knowledge Bases 和 Amazon Nova 2.5 Sonic 为航空应用构建语音旅行礼宾智能体。架构通过 MCP 将智能体后端解耦,支持实时语音改座、政策问答与人工转接。代码置于 aws-samples GitHub 仓库,模块可复用。
AWS 发布教程,演示在 Amazon Bedrock Managed Knowledge Base 上用 LangChain 搭建 RAG 应用,并对比标准检索与智能体检索处理多部分问题的差异。
在 Amazon SageMaker AI 上使用多轮强化学习(MTRL)微调 Qwen3.6-27B 模型,构建能自主决策检索策略的搜索智能体。该方法通过优化完整多轮轨迹,使小模型兼具前沿模型的可靠性与低成本推理速度。此前单轮 RL 或监督微调难以有效处理多步交互中的依赖关系。
Ai2 开源 AstaBrief 8B,一个把研究问题和检索文献片段转成带引用报告的小模型,已在 Asta 的 Generate a report 功能中作为 Fast 模式上线,并同步开放模型权重、训练数据和可从自有 PDF 生成报告的示例工作流。
推荐理由:原文给出数据过滤和 SFT 加 DPO 的具体配方,读者能据此判断开源小模型在科学报告生成上保留了多少专有模型的质量。
Amazon Quick 推出 Live Data in Apps 功能,允许 AI 构建的应用实时查询受治理的 Quick Sight 数据集。该功能支持 SPICE 和 Direct Query 模式,自动应用行级与列级安全规则,确保用户仅查看授权数据。此前应用仅展示构建时的静态快照,无法反映实时业务指标。
Amazon Bedrock Knowledge Bases 利用 RAG 技术从 S3 存储的理赔文档中检索信息,通过 AgenticRetrieveStream API 回答自然语言问题并返回带引用的答案。该方案支持多轮对话及基于元数据的过滤,并集成上下文接地护栏以确保回答严格基于源文件。
文章解析 Amazon Quick 各组件的提示工程最佳实践。Quick Research 需明确目标、受众及范围,并限定数据源以减少噪音;Quick Flows 应将复杂逻辑拆解为编号步骤,利用 agentic runtime 通过对话迭代优化;Quick Sight 查询需包含业务问题、指标、维度及可视化偏好。