跳到正文

#教程/实践

今日 4 条
今天11月18日周三
  1. AWS Machine Learning Blog68

    AWS 讲解生成式 AI 成本优化:规则交给代码,判断交给模型

    AWS 发布教程,讲解如何在生成式 AI 工作流中先判断步骤是否需要模型,再按确定性代码、受约束决策调用和合适规模模型分流。文章用客服助手示例说明,格式检查、关键词快路径和固定队列选择可先于模型执行,开放生成任务再用 Amazon Bedrock 中满足要求的最小模型。

    推荐理由:原文给出一套先判断工作流步骤是否需要模型,再分流到规则、受约束决策调用和合适规模模型的成本优化方法。

  2. AWS Machine Learning Blog42

    AWS 提出 Agentic AI 负责任 AI 三阶段路线图

    AWS 为构建 Agentic AI 平台的团队提供了一份分阶段的负责任 AI(RAI)实施路线图,涵盖治理基础、试点部署及评估加固三个阶段。该方案旨在解决非确定性输出、数据暴露及监管合规等挑战,并配套提供 RAI 评估技能与记分卡,帮助平台与应用团队在 12 周内建立治理框架。

  3. AWS Machine Learning Blog61

    ArisGlobal 如何在 Amazon Bedrock 上扩展生成式 AI 推理

    ArisGlobal 在 Amazon Bedrock 上通过前置并缓存共享提示词前缀,在不让成本按比例增长的情况下扩展多租户生成式 AI 推理。实现使用 Anthropic Claude Sonnet 4.5,此前共享前缀 6 个月增长约 150%,每案例推理成本增加超过 200%;调整后典型请求 65% 的输入 token 由缓存提供。

    推荐理由:原文用生产指标说明调整缓存对象能降低输入成本,并提供多租户场景下可迁移的请求排序和缓存监控经验。

11月17日周二
  1. Simon Willison25

    LLM 0.37.3 发布

    LLM 0.37.3 发布,主要修复了因 Homebrew 更新 SQLite 3.54.1 导致的日志代码故障。该版本 SQLite 修正了 json_array 子查询返回文本而非 JSON 的 bug,LLM 通过添加 json() 包装作为临时解决方案。

  2. AWS Machine Learning Blog63

    多智能体系统设计模式、反模式与制造经验分类

    AWS Machine Learning Blog 梳理了多智能体系统的确定性工作流、自主编排、混合架构、5 类反模式和制造场景选型约束。文中用 10 个步骤各 95 percent 可靠时端到端只有 59.9 percent、20 个步骤只有 35.8 percent 的例子说明依赖交接会放大风险。

    推荐理由:原文给出多智能体模式与反模式的分类和决策树,帮助读者按任务确定性、专业分工与风险边界选择最简架构。

11月16日周一
  1. IT之家60

    Anthropic 员工演示 Claude Fable 5.2 不调用图像模型,用 Python 代码模拟真实画笔作画

    Anthropic 员工展示 Claude Fable 5.2 不调用图像模型,用 Python 代码模拟画笔、颜料和画布逐笔作画。Jake Eaton 展示的停车场购物车作品使用约 70 万次模拟笔触,这类作品的代码通常有 1000 至 2000 行,不依赖外部图像模型或预渲染底图。日出时的鸟用 111 笔完成,黄昏场景用 280 笔,模型会观察画布并用新笔触修正错误。

11月15日周日
  1. IT之家39

    开发者借助 Claude 开发出体积仅 97KB 水下探索模拟项目 Abyssal Garden

    开发者利用 Anthropic Claude 编写代码,完成浏览器水下探索模拟项目 Abyssal Garden,体积仅 97KB。该项目视觉元素由代码实时生成,包含海带森林、沉船等场景,且 AI 会自行检查代码以避免视觉异常。开发者最初仅用一条提示词生成基础版本,随后通过追加提示词逐步加入主菜单、碰撞检测和画质调节等功能。

  2. Simon Willison40

    datasette-llm 0.1a11 发布

    datasette-llm 0.1a11 发布,新增对 OpenAI 兼容端点的支持,允许配置 Datasette 使用任何遵循 OpenAI 协议标准的 LLM。用户可通过 uvx 结合 LM Studio、Ollama 或 llama.cpp 运行本地模型(如 qwen/qwen3.8-27b)来启动 Datasette Agent 实例。

11月14日周六
  1. IT之家54

    借助 Claude 和 Arduino 开发板,达人让 1994 款切诺基通过加州排放检测

    美国AI爱好者穆罕默德·祖拉利借助Claude与Codex配合Arduino Nano开发板,让1994款Jeep切诺基通过加州尾气检测。整车发动机电脑过老无法刷写,遂将自定义代码写入外接EEPROM芯片运行,全部电子元件成本不超15美元。该项目以xj-scanner为名开源至GitHub采用GPLv3,此前该车因特定车速氮氧化物超标多次检测失败。

  2. AWS Machine Learning Blog29

    GS Caltex 使用 Amazon SageMaker Canvas 与 Pipelines 实现生产级 MLOps

    GS Caltex 利用 Amazon SageMaker Canvas 和 Pipelines 将流程工程师的模型接入生产工作流,实现了从 Canvas 到 Pipelines 的自动化交接。ML 工程师部署模型的时间从约一周缩短至数小时,并通过每 30 分钟一次的批量推理显著降低了推理成本。此前该交接过程需要手动配置数据路径和模型参数,且依赖持续运行的端点。

  3. AWS Machine Learning Blog51

    Amazon Bedrock AgentCore runtime 快速会话启动的架构模式

    Amazon Bedrock AgentCore runtime V2 在部署时构建一次微VM快照、新会话直接恢复以减少启动耗时,AWS 官方文章讲解了四种优化架构模式。这些模式涵盖将静态工作置于 init 阶段、用 build hook 加载进程外文件、以及在用户交互前预暖会话。文章还提供延迟测量方法与快照 pitfalls 提醒。

  4. AWS Machine Learning Blog34

    AssemblyAI 在 AWS 上使用 Amazon EC2 Spot 优化语音转文本推理成本

    AssemblyAI 利用 Amazon EC2 Spot 实例与 Amazon ECS 构建混合 GPU 集群,在保持 SLA 承诺的同时大幅降低大规模语音转文本推理成本。该架构通过混合 g4dn、g5 和 g6 实例族分散风险,并采用 Amazon SQS 队列机制实现中断后的任务自动重试。此方案部署于欧洲 AWS 区域,以满足医疗、金融等受监管行业的数据驻留合规要求。

11月13日周五
  1. IT之家40

    开发者借助 AI 与 QEMU 模拟器复活尘封 15 年的 iOS 4 卡片式多任务界面

    开发者史蒂夫·特劳顿-史密斯利用 AI 辅助开发的 QEMU 模拟器分支,成功运行了从未正式发布的 iOS 4 版本 8A218。该版本展示了苹果曾尝试的 Exposé 式九宫格卡片多任务切换界面,用户可通过双击 Home 键直接切换应用。这一发现源于从 iPhone 4 原型机提取的根文件系统,此前该界面自 2011 年被发现后一直无人公开演示。

  2. AWS Machine Learning Blog44

    AWS 利用 CUR 2.0 和 AWS Budgets 实现 Amazon Bedrock 按 IAM 主体的支出追踪与限额

    AWS 展示如何利用 CUR 2.0 和 AWS Budgets 实现 Amazon Bedrock 按 IAM 主体的成本可视化与自动支出限额。该方案无需编写应用代码,通过 IAM 主体标签归因、Cost Explorer 或 CUR 2.0 报告,以及触发 Deny IAM 策略的预算动作来执行限制。此前 Jamf 曾基于 Lambda 构建实时支出执行循环,而本方案仅依赖 AWS 原生功能。

  3. AWS Machine Learning Blog44

    使用 Amazon Bedrock 和 LiteLLM 构建自助式 LLM 网关

    文章演示了利用 Amazon Bedrock 和部署在 AWS Fargate 上的 LiteLLM 构建自助式 LLM 网关,通过 OpenAI 兼容 API 抽象底层模型访问。该架构支持开发者通过单一 API 密钥使用 Claude Sonnet 等模型,并实现按用户成本控制和性能监控。此方案允许开发者在不修改工具配置的情况下切换模型或添加回退机制。

  4. AWS Machine Learning Blog48

    Amazon Bedrock 如何优化单任务成本并验证智能体 ROI

    文章提出基于单任务成本而非单 token 成本评估 Amazon Bedrock 智能体支出的框架,指出 tokenizer 效率、输出冗余、智能体循环及推理开销是定价页未显示的四大隐性成本驱动因素。通过缓存、路由和输出约束降低单任务成本,并利用人类基线、保留实验及五维记分卡量化智能体相对于人工的 ROI。

  5. AWS Machine Learning Blog50

    从原型到生产:用 Agent DLC 工程化 AI 智能体

    AWS 团队在博客中提出 Agent Development Lifecycle (Agent DLC) 方法论,用于规范 AI 智能体从原型到生产的工程化评估与发布。该方法定义五大维度三层级标准及内外双循环,并借 HR 政策助手参考实现演示评估指标如何暴露检索覆盖问题。文中还列举了 Amazon Bedrock AgentCore 等 AWS 服务对落地该方法的支持。

  6. AWS Machine Learning Blog47

    Amazon Bedrock Managed Knowledge Base 工具实现细粒度访问控制

    该方案利用 Amazon Bedrock AgentCore Gateway 在工具层注入经身份验证的用户属性,防止 LLM 伪造搜索权限。结合 Managed Knowledge Base 的 ACL 感知功能,确保多租户环境下每个用户仅能检索其有权查看的文档。此设计通过多层防御机制,解决了传统应用中由 LLM 决定搜索参数可能引发的越权访问风险。

11月12日周四
  1. Latent Space55

    Jev 革命:工程师已经在使用系统一模型构建什么

    在 AI Engineer Code Summit 上,工程师展示了将 Jev 等系统一模型集成到代码中构建自动化软件的实践。TypeSafe AI 的 Almeida 主张将系统一模型深度集成代码以实现可靠智能,Glean、UiPath 和 Workday 分别演示了零样本分类、文档块排序和预测用户操作等用例。Jev 由 TypeSafe AI 于 9 月发布,是非生成式系统一模型的代表。

  2. AWS Machine Learning Blog50

    AWS 教程:在 Amazon SageMaker HyperPod 上检测并恢复静默数据损坏

    AWS 团队发布教程,展示在 Amazon SageMaker HyperPod 上向 PyTorch DDP 训练循环加入三种检查以检测静默数据损坏并替换节点。三种检查分别捕获 NaN/Inf 梯度、通过环形重放审计有限错误值、以及优化步后权重指纹分歧,测试在 32 块 NVIDIA H100 上以约 10% 步时间开销捕获注入故障。

  3. AWS Machine Learning Blog53

    AWS 教程:用 semi-persistent 开源引擎基于 anti-unification 比较形式化策略语义差异

    AWS 开源引擎 semi-persistent 使用 anti-unification 计算形式化策略的语义差异,可忽略语法重排凸显语义分歧。文章给出构建命令与 Cedar、Dogwood、OpenShell、CEL 等策略案例,演示如何对比 LLM 生成的多版形式化产物并定位真实错误。该引擎基于 e-graph 与代数规范化,在 Apple M3 Pro 上完整运行耗时不足 100 毫秒。

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有