跳到正文

#教程/实践

今日 5 条
今天11月18日周三
  1. AWS Machine Learning Blog63

    降低 Amazon Bedrock AgentCore JSON 工作负载的 token 成本与延迟

    在代表性 23 MB payload 的基准运行中,三种 Amazon Bedrock AgentCore JSON 工作负载优化策略让 token 消耗最高降低 71%、平均延迟最高降低 80%。

    推荐理由:文章给出生产智能体处理大 JSON 负载时降低 token 成本和延迟的三种工程策略,并用同一数据集对比优化前后的结果。

  2. AWS Machine Learning Blog68

    AWS 讲解生成式 AI 成本优化:规则交给代码,判断交给模型

    AWS 发布教程,讲解如何在生成式 AI 工作流中先判断步骤是否需要模型,再按确定性代码、受约束决策调用和合适规模模型分流。文章用客服助手示例说明,格式检查、关键词快路径和固定队列选择可先于模型执行,开放生成任务再用 Amazon Bedrock 中满足要求的最小模型。

    推荐理由:原文给出一套先判断工作流步骤是否需要模型,再分流到规则、受约束决策调用和合适规模模型的成本优化方法。

  3. AWS Machine Learning Blog42

    AWS 提出 Agentic AI 负责任 AI 三阶段路线图

    AWS 为构建 Agentic AI 平台的团队提供了一份分阶段的负责任 AI(RAI)实施路线图,涵盖治理基础、试点部署及评估加固三个阶段。该方案旨在解决非确定性输出、数据暴露及监管合规等挑战,并配套提供 RAI 评估技能与记分卡,帮助平台与应用团队在 12 周内建立治理框架。

  4. AWS Machine Learning Blog61

    ArisGlobal 如何在 Amazon Bedrock 上扩展生成式 AI 推理

    ArisGlobal 在 Amazon Bedrock 上通过前置并缓存共享提示词前缀,在不让成本按比例增长的情况下扩展多租户生成式 AI 推理。实现使用 Anthropic Claude Sonnet 4.5,此前共享前缀 6 个月增长约 150%,每案例推理成本增加超过 200%;调整后典型请求 65% 的输入 token 由缓存提供。

    推荐理由:原文用生产指标说明调整缓存对象能降低输入成本,并提供多租户场景下可迁移的请求排序和缓存监控经验。

11月17日周二
  1. AWS Machine Learning Blog63

    多智能体系统设计模式、反模式与制造经验分类

    AWS Machine Learning Blog 梳理了多智能体系统的确定性工作流、自主编排、混合架构、5 类反模式和制造场景选型约束。文中用 10 个步骤各 95 percent 可靠时端到端只有 59.9 percent、20 个步骤只有 35.8 percent 的例子说明依赖交接会放大风险。

    推荐理由:原文给出多智能体模式与反模式的分类和决策树,帮助读者按任务确定性、专业分工与风险边界选择最简架构。

11月14日周六
  1. AWS Machine Learning Blog29

    GS Caltex 使用 Amazon SageMaker Canvas 与 Pipelines 实现生产级 MLOps

    GS Caltex 利用 Amazon SageMaker Canvas 和 Pipelines 将流程工程师的模型接入生产工作流,实现了从 Canvas 到 Pipelines 的自动化交接。ML 工程师部署模型的时间从约一周缩短至数小时,并通过每 30 分钟一次的批量推理显著降低了推理成本。此前该交接过程需要手动配置数据路径和模型参数,且依赖持续运行的端点。

  2. AWS Machine Learning Blog51

    Amazon Bedrock AgentCore runtime 快速会话启动的架构模式

    Amazon Bedrock AgentCore runtime V2 在部署时构建一次微VM快照、新会话直接恢复以减少启动耗时,AWS 官方文章讲解了四种优化架构模式。这些模式涵盖将静态工作置于 init 阶段、用 build hook 加载进程外文件、以及在用户交互前预暖会话。文章还提供延迟测量方法与快照 pitfalls 提醒。

  3. AWS Machine Learning Blog34

    AssemblyAI 在 AWS 上使用 Amazon EC2 Spot 优化语音转文本推理成本

    AssemblyAI 利用 Amazon EC2 Spot 实例与 Amazon ECS 构建混合 GPU 集群,在保持 SLA 承诺的同时大幅降低大规模语音转文本推理成本。该架构通过混合 g4dn、g5 和 g6 实例族分散风险,并采用 Amazon SQS 队列机制实现中断后的任务自动重试。此方案部署于欧洲 AWS 区域,以满足医疗、金融等受监管行业的数据驻留合规要求。

11月13日周五
  1. AWS Machine Learning Blog44

    AWS 利用 CUR 2.0 和 AWS Budgets 实现 Amazon Bedrock 按 IAM 主体的支出追踪与限额

    AWS 展示如何利用 CUR 2.0 和 AWS Budgets 实现 Amazon Bedrock 按 IAM 主体的成本可视化与自动支出限额。该方案无需编写应用代码,通过 IAM 主体标签归因、Cost Explorer 或 CUR 2.0 报告,以及触发 Deny IAM 策略的预算动作来执行限制。此前 Jamf 曾基于 Lambda 构建实时支出执行循环,而本方案仅依赖 AWS 原生功能。

  2. AWS Machine Learning Blog44

    使用 Amazon Bedrock 和 LiteLLM 构建自助式 LLM 网关

    文章演示了利用 Amazon Bedrock 和部署在 AWS Fargate 上的 LiteLLM 构建自助式 LLM 网关,通过 OpenAI 兼容 API 抽象底层模型访问。该架构支持开发者通过单一 API 密钥使用 Claude Sonnet 等模型,并实现按用户成本控制和性能监控。此方案允许开发者在不修改工具配置的情况下切换模型或添加回退机制。

  3. AWS Machine Learning Blog48

    Amazon Bedrock 如何优化单任务成本并验证智能体 ROI

    文章提出基于单任务成本而非单 token 成本评估 Amazon Bedrock 智能体支出的框架,指出 tokenizer 效率、输出冗余、智能体循环及推理开销是定价页未显示的四大隐性成本驱动因素。通过缓存、路由和输出约束降低单任务成本,并利用人类基线、保留实验及五维记分卡量化智能体相对于人工的 ROI。

  4. AWS Machine Learning Blog50

    从原型到生产:用 Agent DLC 工程化 AI 智能体

    AWS 团队在博客中提出 Agent Development Lifecycle (Agent DLC) 方法论,用于规范 AI 智能体从原型到生产的工程化评估与发布。该方法定义五大维度三层级标准及内外双循环,并借 HR 政策助手参考实现演示评估指标如何暴露检索覆盖问题。文中还列举了 Amazon Bedrock AgentCore 等 AWS 服务对落地该方法的支持。

  5. AWS Machine Learning Blog47

    Amazon Bedrock Managed Knowledge Base 工具实现细粒度访问控制

    该方案利用 Amazon Bedrock AgentCore Gateway 在工具层注入经身份验证的用户属性,防止 LLM 伪造搜索权限。结合 Managed Knowledge Base 的 ACL 感知功能,确保多租户环境下每个用户仅能检索其有权查看的文档。此设计通过多层防御机制,解决了传统应用中由 LLM 决定搜索参数可能引发的越权访问风险。

11月12日周四
  1. AWS Machine Learning Blog50

    AWS 教程:在 Amazon SageMaker HyperPod 上检测并恢复静默数据损坏

    AWS 团队发布教程,展示在 Amazon SageMaker HyperPod 上向 PyTorch DDP 训练循环加入三种检查以检测静默数据损坏并替换节点。三种检查分别捕获 NaN/Inf 梯度、通过环形重放审计有限错误值、以及优化步后权重指纹分歧,测试在 32 块 NVIDIA H100 上以约 10% 步时间开销捕获注入故障。

  2. AWS Machine Learning Blog53

    AWS 教程:用 semi-persistent 开源引擎基于 anti-unification 比较形式化策略语义差异

    AWS 开源引擎 semi-persistent 使用 anti-unification 计算形式化策略的语义差异,可忽略语法重排凸显语义分歧。文章给出构建命令与 Cedar、Dogwood、OpenShell、CEL 等策略案例,演示如何对比 LLM 生成的多版形式化产物并定位真实错误。该引擎基于 e-graph 与代数规范化,在 Apple M3 Pro 上完整运行耗时不足 100 毫秒。

11月11日周三
  1. AWS Machine Learning Blog42

    Amazon Bedrock AgentCore 智能体评估指南:内置、DeepEval 与 AutoEval 评测器

    Amazon Bedrock AgentCore 提供内置、DeepEval 和 AutoEval 三类评测器,用于评估智能体在任务完成、工具调用及安全合规方面的表现。该方案支持从业务结果定义成功标准,并将其映射到 Trace 或 Session 级别的观测行为,帮助团队在部署前验证智能体是否真正满足业务需求。

11月10日周二
11月7日周六
  1. GitHub Blog · AI & ML51

    GitHub Copilot 代理工程指南:超越代码生成

    开发者可使用 GitHub Copilot 在 Plan、Build、Verify、Observe 四阶段实现代理工程工作流。文章指出 AI 代码生成增多使评审耗时拉长,并演示了整合上下文、云沙箱续跑、堆叠 PR、自动修复等做法。该指南基于 GitHub 现有功能,并在 GitHub Universe 2026 有过现场分享。

  2. AWS Machine Learning Blog40

    AWS 演示 Amazon Bedrock AgentCore 与 Okta XAA 构建企业级 AI Agent 访问治理

    AWS 演示利用 Amazon Bedrock AgentCore Gateway 和 Cedar 策略集中管理 AI Agent 对 MCP 工具的访问权限,替代分散的授权检查。该方案支持在 Amazon EKS 上运行多 Agent,并通过 CloudWatch 统一审计 Okta 授权决策。这是继 Part 1 验证基础治理机制后,针对企业级大规模 Agent 拓扑的扩展方案。

  3. AWS Machine Learning Blog45

    AWS 在 Amazon ECS Fargate 上构建无服务器 MCP 服务器以访问 AI 智能体数据湖

    AWS 团队在 Amazon ECS Fargate 上构建了无服务器 MCP 服务器,作为 AI 智能体与企业数据湖之间的集中式网关。该架构采用元数据驱动方式,新增数据集仅需提供 JSON 元数据文件即可自动发现,无需编写集成代码。此方案旨在解决 Amazon 北美分拣中心(NASC)规划团队中数据访问碎片化及新数据源接入耗时数天的问题。

11月6日周五
11月5日周四
  1. AWS Machine Learning Blog58

    Deep Insight 如何在工作代码中应用生产 AI 智能体的四层上下文工程

    Deep Insight 通过工作代码展示了生产 AI 智能体的四层上下文工程实现,涵盖架构隔离、提示控制、文件外置与验证防护。参考实现中单一写执行工具使脚本新增上下文 token 减少约95%,按需加载技能缩减系统提示约97%。这是文章系列 Part 2,基于 Part 1 提出的多智能体挑战与 Strands Agents SDK 架构。

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有