跳到正文

#安全/对齐

今日 1 条
今天11月18日周三
  1. AWS Machine Learning Blog42

    AWS 提出 Agentic AI 负责任 AI 三阶段路线图

    AWS 为构建 Agentic AI 平台的团队提供了一份分阶段的负责任 AI(RAI)实施路线图,涵盖治理基础、试点部署及评估加固三个阶段。该方案旨在解决非确定性输出、数据暴露及监管合规等挑战,并配套提供 RAI 评估技能与记分卡,帮助平台与应用团队在 12 周内建立治理框架。

11月17日周二
11月13日周五
  1. AWS Machine Learning Blog47

    Amazon Bedrock Managed Knowledge Base 工具实现细粒度访问控制

    该方案利用 Amazon Bedrock AgentCore Gateway 在工具层注入经身份验证的用户属性,防止 LLM 伪造搜索权限。结合 Managed Knowledge Base 的 ACL 感知功能,确保多租户环境下每个用户仅能检索其有权查看的文档。此设计通过多层防御机制,解决了传统应用中由 LLM 决定搜索参数可能引发的越权访问风险。

11月10日周二
11月9日周一
11月7日周六
  1. AWS Machine Learning Blog40

    AWS 演示 Amazon Bedrock AgentCore 与 Okta XAA 构建企业级 AI Agent 访问治理

    AWS 演示利用 Amazon Bedrock AgentCore Gateway 和 Cedar 策略集中管理 AI Agent 对 MCP 工具的访问权限,替代分散的授权检查。该方案支持在 Amazon EKS 上运行多 Agent,并通过 CloudWatch 统一审计 Okta 授权决策。这是继 Part 1 验证基础治理机制后,针对企业级大规模 Agent 拓扑的扩展方案。

11月6日周五
11月5日周四
  1. AWS Machine Learning Blog37

    AWS Quick 推出 Smart Approvals 实现关键操作人工监督

    AWS Quick 推出 Smart Approvals 功能,利用独立分类器模型评估 AI 智能体拟执行的操作,在符合现有权限控制的前提下自动批准常规动作或将其退回用户审查。该功能默认开启,每次自动批准仅限单次使用且针对特定参数,不授予持续权限,旨在减少重复审批对注意力的干扰。审计日志通过 AWS CloudTrail 记录相关权限更新,保留期为 90 天。

11月4日周三
  1. Microsoft Research36

    Microsoft Research 研究员 Mike Walker 谈黑客思维与网络安全

    Microsoft Research 研究员 Mike Walker 在访谈中阐述黑客思维对构建下一代网络防御的价值。他回顾领导 DARPA Cyber Grand Challenge 的经历,该计划展示了能自动发现并修补软件漏洞的自主 AI 系统。Walker 强调有效安全依赖于理解信任与上下文,并反思了竞争黑客对团队协作的启示。

11月3日周二
10月31日周六
10月30日周五
10月28日周三
10月24日周六
10月23日周五
10月22日周四
10月21日周三
10月14日周三
10月9日周五
10月8日周四
10月6日周二
  1. Google Research45

    Google 发布智能体隐私与安全上下文视角报告

    Google 联合 50 余位专家发布《智能体隐私与安全中的开放与新兴问题:上下文视角》报告,提出基于上下文完整性(CI)理论构建多层防御体系。该方案通过动态策略引擎在系统、模型及用户层面评估智能体行为的适当性,以解决自主智能体在处理个人数据时面临的隐私与安全挑战。

10月5日周一
10月1日周四
  1. Google DeepMind80

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展到开发者、企业和消费者,起价为每百万输入 token 2 美元、每百万输出 token 10 美元。

    推荐理由:官方给出 Argon 在长程编码、企业知识工作与网络安全防御上的基准与内部落地数据,可据此判断前沿模型的能力边界与分阶段开放节奏。

9月29日周二
9月25日周五
  1. GitHub Blog · AI & ML73

    GitHub Security Lab 发布基于 Taskflow Agent 的 AI 模糊测试工具

    GitHub Security Lab 发布了 Fuzzing Taskflow,一个针对 C/C++ 项目的自主模糊测试流水线,默认使用 Claude Sonnet 5 驱动。该工具通过 MCP 工具调用 AFL++ 和编译器,自动完成入口点识别、Harness 编写、覆盖率分析及崩溃分诊,并生成包含漏洞判定和修复建议的报告。

    推荐理由:展示了 LLM Agent 如何接管模糊测试中编写 Harness、分析覆盖率及分诊崩溃等重复性人工环节,为 C/C++ 项目自动化安全审计提供了可复用的工程范式。

9月24日周四
  1. Google DeepMind75

    Google DeepMind 发布 Private AI Compute 安全服务端记忆架构

    Google DeepMind 发布 Private AI Compute 平台的安全服务端记忆架构,实现跨设备持久 AI 记忆并维持端侧隐私标准。该架构利用云端安全飞地(secure enclave)和端到端加密通道,加密密钥仅保留在用户个人设备上,确保数据对包括 Google 在内的任何第三方不可访问。

    推荐理由:原文展示了云端持久记忆与端侧密钥控制的架构,为跨设备隐私计算提供了可验证的技术路径。

9月23日周三

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有