AWS 讲解生成式 AI 成本优化:规则交给代码,判断交给模型
AWS 发布教程,讲解如何在生成式 AI 工作流中先判断步骤是否需要模型,再按确定性代码、受约束决策调用和合适规模模型分流。文章用客服助手示例说明,格式检查、关键词快路径和固定队列选择可先于模型执行,开放生成任务再用 Amazon Bedrock 中满足要求的最小模型。
推荐理由:原文给出一套先判断工作流步骤是否需要模型,再分流到规则、受约束决策调用和合适规模模型的成本优化方法。
内容形态
拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。
15 条精选近 30 天 9 条共收录 244 条
AWS 发布教程,讲解如何在生成式 AI 工作流中先判断步骤是否需要模型,再按确定性代码、受约束决策调用和合适规模模型分流。文章用客服助手示例说明,格式检查、关键词快路径和固定队列选择可先于模型执行,开放生成任务再用 Amazon Bedrock 中满足要求的最小模型。
推荐理由:原文给出一套先判断工作流步骤是否需要模型,再分流到规则、受约束决策调用和合适规模模型的成本优化方法。
ArisGlobal 在 Amazon Bedrock 上通过前置并缓存共享提示词前缀,在不让成本按比例增长的情况下扩展多租户生成式 AI 推理。实现使用 Anthropic Claude Sonnet 4.5,此前共享前缀 6 个月增长约 150%,每案例推理成本增加超过 200%;调整后典型请求 65% 的输入 token 由缓存提供。
推荐理由:原文用生产指标说明调整缓存对象能降低输入成本,并提供多租户场景下可迁移的请求排序和缓存监控经验。
AWS Machine Learning Blog 梳理了多智能体系统的确定性工作流、自主编排、混合架构、5 类反模式和制造场景选型约束。文中用 10 个步骤各 95 percent 可靠时端到端只有 59.9 percent、20 个步骤只有 35.8 percent 的例子说明依赖交接会放大风险。
推荐理由:原文给出多智能体模式与反模式的分类和决策树,帮助读者按任务确定性、专业分工与风险边界选择最简架构。
GitHub 员工 Andrea Griffiths 在 GitHub 博客发表 agent 技能实践指南,讲解如何将重复任务封装为可跨智能体复用的技能。
推荐理由:本文给出了将重复任务封装为可移植智能体技能的具体方法,团队可借鉴其清单与校验点设计来沉淀业务知识。
Hugging Face 博客文章系统介绍了决策模型(decision models)的概念及其在 Transformers、llama.cpp 等生态中的支持。
推荐理由:文章对比决策模型与传统分类及零样本分类,并说明 Hugging Face 为其定义统一接口以支持多后端部署。
Google DeepMind 于2026年11月3日演示 Google Antigravity 配备 Cheminformatics Skills 可将药物发现迭代从数天缩至1小时。演示以肺癌药物为例展示代理搜索化合物、构建预测模型并提议合成路线,技能现已向企业用户和科学家开放。
推荐理由:原文演示 Google Antigravity 化学信息学技能将药物发现从数天缩至一小时,可参考其人机协作方式。
OpenAI 与 Anthropic 称其模型反驳了 ETH,本文解释该主张对计算复杂性和密码学的含义。OpenAI 昨日发布三道数学问题解法,Anthropic 数小时后也公布自身反驳。若主张成立,将促使学界重审大量依赖 ETH 的论文,且 OpenAI 检查后认为未破译现有加密系统。
推荐理由:文章解释了 OpenAI 与 Anthropic 称模型反驳 ETH 的主张,以及它如何促使学界重审相关论文并引发密码学层面的考量。
AWS解决方案架构团队发文剖析其构建的开源多智能体系统Deep Insight,讲解它如何解决生产环境的五大核心挑战。系统基于Strands Agents SDK与Amazon Bedrock等构建,提供三种部署方式并已在GitHub开源。本文为三部分系列第一篇,后续将涵盖上下文工程与生产部署。
推荐理由:AWS团队以自研Deep Insight为例,梳理生产环境多智能体系统的五大挑战与架构对策,为类似系统提供可复用的设计与部署参考。
westsmith 撰写了 AI 图像生成实践指南,系统讲解从扩散模型到智能体集成的原理、成本与代码实践。文中基于调用 Flux、Gemini 等模型的实验,总结了描述相机而非视图等提示词方法与不依赖提供商的薄接口模式。该指南还演示了 Claude 通过 MCP 调用图像模型形成智能体驱动生成回路。
推荐理由:作者基于调用多家图像接口的实验,总结出不依赖具体提供商的薄接口、日志与重试模式,便于工程复用。
AWS教程在Amazon Bedrock上用Grok 4.7构建长周期工具调用智能体,三个搜索任务72次运行答对67次。xhigh级别18次全对,low级别以约八分之一输出token答对15/18,文章给出了按请求设置推理努力与监控token用量的实践方法。
推荐理由:原文给出了在Amazon Bedrock上构建Grok 4.7工具调用智能体并评测推理努力级别的方法,读者可迁移到自有任务做成本与质量调优。
GitHub 日本和韩国市场营销负责人 Tomoko Tanaka 分享如何利用 GitHub Copilot 和 GitHub Actions 自动化活动运营流程。
推荐理由:展示了非技术人员如何利用 GitHub Copilot 和 Actions 将重复性营销工作流转化为代码,提供了可复用的自动化模式。
Hugging Face 发布 Workflow1111,用 73 个节点、11 条媒体管线在单张 Gradio Workflow 画布上重建了 AUTOMATIC1111 的大部分功能,覆盖文生图、高清修复、图生图、提示词矩阵、VLM 反推、检测生成 inpaint 掩码、ControlNet 风格标注器、背景移除、PNG Info 和图像转视频。
推荐理由:用 73 个节点复刻 A1111 全部功能,并展示输出节点如何自动变成 REST 端点和 MCP 工具。
Hugging Face 博客介绍如何在 Hugging Face Jobs 上跨机运行 AsyncGRPOTrainer:训练 Job 只把 LoRA adapter 写入 Storage Bucket,两个 vLLM Job 从同一挂载路径读取,代理负责加鉴权头、按 KV 前缀路由 rollout 并把 adapter 加载广播到所有副本,全程不需要 NCCL。
推荐理由:原文给出跨机异步 GRPO 的完整工程配方与五轮瓶颈定位数据,可迁移到自建 RL 训练流水线。
Hugging Face 博客介绍 Strands Robots 的流式数据闭环,用同一个 Robot() 对象完成录制演示、同步到 Storage Bucket、从 Hub 流式读取训练并把 checkpoint 部署回硬件,全程保持 LeRobot 磁盘格式不变。
推荐理由:原文给出从录制、同步到流式训练再部署的完整闭环代码,可迁移到机器人数据采集与训练流程。
Mistral 基于其开源编码助手 Vibe 构建了一个自主智能体,可读取 Rails 源文件、生成或改进 RSpec 测试,并在 CI/CD 流程中无需人工干预运行。
推荐理由:Mistral 公开了用 Vibe 构建自动写 RSpec 测试智能体的完整方法,包括 AGENTS.md、skills 与自定义工具的具体配置。