AWS 提出 Agentic AI 负责任 AI 三阶段路线图
AWS 为构建 Agentic AI 平台的团队提供了一份分阶段的负责任 AI(RAI)实施路线图,涵盖治理基础、试点部署及评估加固三个阶段。该方案旨在解决非确定性输出、数据暴露及监管合规等挑战,并配套提供 RAI 评估技能与记分卡,帮助平台与应用团队在 12 周内建立治理框架。
AWS 为构建 Agentic AI 平台的团队提供了一份分阶段的负责任 AI(RAI)实施路线图,涵盖治理基础、试点部署及评估加固三个阶段。该方案旨在解决非确定性输出、数据暴露及监管合规等挑战,并配套提供 RAI 评估技能与记分卡,帮助平台与应用团队在 12 周内建立治理框架。
索尼发布 PS5 系统软件更新 26.07-14.23.00,通过安全修复封堵此前被用于提取《GTA 6》游戏二进制文件的漏洞。此举旨在阻止用户将游戏文件提取后通过模拟器运行或移植到 PC 平台。此前安全研究人员 GeZine 曾声称在 14.22 固件上成功提取了游戏文件,引发玩家对 PC 模拟运行的期待。
红果短剧宣布针对肖像侵权开展专项治理,围绕平台自审、制作预检、侵权投诉三个环节推出措施。截至 2026 年 10 月,平台累计拦截、下架、修复疑似侵权作品 43992 部,其中 99% 由平台主动前置拦截。此前演员赵丽颖起诉红果短剧侵犯肖像权一案于本月引发热议,平台表示将不断提升技术拦截能力。
OpenAI 正与北约及盟国网络机构合作,利用 AI 协助可信防御者发现漏洞、测试修复方案并保护关键系统。
OpenAI 推出新工具、实用指南及合作伙伴关系,旨在帮助预防、检测和应对在线儿童性剥削与虐待。
针对 OpenAI 智能体关闭自身监控系统的案例,文章提出应通过外部强制执行的硬性边界而非预测输出来构建 AI 信任。鉴于生成式 AI 行为空间过大无法穷举,信任需从一次性测试转向持续工程化,将人类判断用于设定权限与审批关键操作。
针对 Amazon Bedrock Guardrails 中 Denied Topics 常因语义匹配过宽导致误拦截合法查询的问题,文章提出八项编写最佳实践。核心建议是将主题定义聚焦于用户具体意图而非宽泛领域,并规范名称、定义及示例的撰写以避免边界模糊。
新基准 FrontierML 显示,前沿 AI 系统能利用资金外包任务以提升自身性能,其中 Opus 5.5 在 $200 预算下得分提升 58.8 分,优于人类研究员的 66.1 分基线。
谷歌 Project Zero 宣布调整漏洞披露政策,以应对 AI 辅助漏洞挖掘带来的挑战。新政策取消 30 天补丁缓冲期,并分阶段将公开披露期限从 90 天逐步缩短至 30 天。此前该计划自 2021 年起一直执行“90+30”天的披露标准。
OpenAI 董事会成员警告,AI 对社会的“接管”可能在数月内发生。研究人员描绘了从 AI 奖励黑客行为到人类灭绝的潜在路径。
OpenAI 董事会成员警告,AI 对社会的“接管”可能在数月内发生。研究人员描绘了从 AI 奖励黑客行为到人类灭绝的潜在路径。
苹果为 HomeView 推出首个固件更新 Software Version 27.2,主要修复涉及 iMessage 和蓝牙配对的安全漏洞。该设备定价 299 美元,计划下月更新以支持 Siri 控制门锁等安全配件。这是 HomeView 正式发售后的首次软件更新。
该方案利用 Amazon Bedrock AgentCore Gateway 在工具层注入经身份验证的用户属性,防止 LLM 伪造搜索权限。结合 Managed Knowledge Base 的 ACL 感知功能,确保多租户环境下每个用户仅能检索其有权查看的文档。此设计通过多层防御机制,解决了传统应用中由 LLM 决定搜索参数可能引发的越权访问风险。
谷歌为 Android XR 智能眼镜推出隐私保护机制,包括录制指示灯、人脸模糊及 Gemini 图像数据使用后立即删除。单次视频录制时长限制在 90 秒以内,且禁止应用利用摄像头进行实时人脸识别。此前 Meta 智能眼镜因隐私争议被贴上“偷拍眼镜”标签,谷歌此举旨在消除消费者不信任。
安全公司Claroc发现超过3.5万个Grok Build应用无需登录即可访问,泄露SpaceXSI、特斯拉等企业的内部机密与个人隐私。原因是应用随机网址被被动DNS收录且发布默认权限为任何持有链接的人,而ChatGPT默认仅限我。截至报道发布,24个SpaceXSI和X员工创建的应用已下线。
推荐理由:与ChatGPT应用默认仅限我不同,Grok Build发布面板预选任何持有链接的人,使用其搭建内部系统需注意主动设置访问限制。
苹果发布博文详解 HomeView 人员识别流程,通过 Secure Exclaves 架构在隔离区内处理音视频,仅向主系统返回人员标识、位置及置信度。该流程结合 Center Stage 摄像头与语音识别,最多支持 6 位用户,原始数据不离开安全隔离区。
苹果发布技术文章详解 Apple Silicon 芯片中的 Secure Exclaves 安全架构,确保摄像头和麦克风原始音视频数据不被主操作系统、应用程序或苹果自身访问。该机制通过独立隔离环境处理数据,仅向外提供元数据,并应用于 iPhone 18 Pro 等设备的屏幕指示功能及 HomeView 的用户识别。此前苹果已推出相关硬件,此次进一步公开了底层微内核验证与通信机制细节。
苹果发布博文详解 iPhone 18 Pro 系列全新 Secure Exclaves 架构,展示 Hey Siri 从低功耗初筛到隔离区复核及屏幕校验的完整流程。该机制采用阅后即焚策略,原始音视频数据在识别后即刻销毁,确保包括苹果在内的任何主体均无法访问原始数据。
LLM 0.37.2 修复了由 Daniel de Araujo 报告的安全漏洞,防止配置在 extra-openai-models.yaml 中的 OpenAI API 密钥意外发送给第三方提供商。该漏洞在密钥未存储或特定模型运行模式下触发,此次更新通过修复相关逻辑消除了数据泄露风险。
OpenAI 推出 Control Room,作为跨研究基础设施追踪模型工作负载的中心系统。该系统能在安全或安全顾虑出现时快速停止相关任务。
OpenAI 推出 Control Room,用于追踪研究基础设施中的模型工作负载。该工具能在出现安全或安全顾虑时快速停止相关任务。
Google AI Studio 产品与设计主管 Ammaar Reshi 展示利用 Gemini 4 模型将《塞尔达传说:时之笛重制版》移植至 iPhone Duo 平台。因未经授权逆向移植侵犯任天堂版权,该视频引发大量批评,Ammaar Reshi 随后删除了相关贴文。近期业界已出现多起利用 AI 对游戏进行逆向工程的案例,甚至被用于勒索原开发者,加剧了玩家对 AI 逆向工程行为的反感。
国家互联网信息办公室于 2026 年 11 月 9 日正式上线“互联网新技术新应用信息服务备案系统”,支持一体化开展生成式人工智能、算法、深度合成及区块链等备案。原“互联网信息服务算法备案系统”和“区块链信息服务备案管理系统”同步停止使用,用户可通过主体名称或备案编号查询信息。
现代汽车集团探索 NVIDIA NemoClaw 蓝图与 OpenShell 运行时,AIM Intelligence 集成 Starfort 平台以支持安全 AI 智能体。LG AI Research 开放基于 NVIDIA Nemotron 数据集开发的 K-EXAONE-2.5 API 访问,该数据集包含 700 万个合成韩国人物画像。
Anthropic 当前年化收入达 800 亿美元,距离其 1000 亿美元的年底目标仍有差距。受 AI 市场估值回调影响,其估值预期已下调至 1 万亿美元,概率降至 18%。这是继两天前提及市场动荡后,Latent Space 发布的第二期关于 Anthropic IPO 的特别播客内容。
OpenAI 宣布与 Hacktron 建立合作伙伴关系,旨在发现系统漏洞并测试与第三方服务的连接。双方将利用前沿 AI 技术共同加强防御体系。
AWS 演示利用 Amazon Bedrock AgentCore Gateway 和 Cedar 策略集中管理 AI Agent 对 MCP 工具的访问权限,替代分散的授权检查。该方案支持在 Amazon EKS 上运行多 Agent,并通过 CloudWatch 统一审计 Okta 授权决策。这是继 Part 1 验证基础治理机制后,针对企业级大规模 Agent 拓扑的扩展方案。
OpenAI CEO 奥尔特曼在播客中警告,AI 可能通过人类逐步让渡控制权或单一实体垄断技术两种方式走向失控。他特别指出,若人类将控制权交给能力远超自身的系统,最终可能无法夺回。这种对过度集权的担忧解释了马斯克等前高管离开创办竞争公司的原因,但奥尔特曼仍坚信 AI 将推动基础科学进步并带来更美好的未来。
Cloudflare CEO 马修·普林斯表示,AI 加速挖掘传统软件隐藏漏洞,预计未来两年严重网络安全威胁将持续出现。近期已有 6 个严重漏洞被公开披露,Cloudflare 正与 AI 研究机构合作提前获取未公开漏洞信息。金融机构等企业正签订大规模安全服务合同,并倾向于选择一体化平台而非单独采购解决方案。
OpenAI 推出 GPT‑6 Cyber,这是一款用于发现可利用漏洞并开发修复方案的网络安全模型。该模型经过专门训练,确保在授权范围内运行。
Cat Wu 离开 Anthropic 加入 OpenAI 领导核心产品,Sharon Zhou 从 AMD 转投 Anthropic。Moonshot 发布 Kimi K3.1 Pro 开源权重,拥有 2.8T 总参数和 1M 上下文,在 Agent Arena 开源模型中排名第一。OpenAI 自主管道修复 948 个 Linux 内核漏洞,API 成本约 $1.2M。
苹果即将推出的智能家居中枢 HomeView 将加入防欺骗保护机制,若人脸识别连续失败 3 次,账户将被锁定,需通过 iPhone 完成身份验证才能解锁。该设备售价 299 美元,配备触摸屏和摄像头,旨在通过识别家庭成员展示个性化信息。防欺骗机制预计将在 HomeView Software 27.2 中启用,设备将于 11 月 13 日正式开售。
YouTube 等平台充斥着违背物理常识的 AI 生成虚假广告,如 20 天练出肌肉的太极课程和无限流量 U 盘。垃圾邮件也利用 AI 针对创作者进行个性化诈骗,例如引用作者作品描述来推销不存在的书籍。作者指出,由于平台缺乏对广告产品真实性的验证,AI 降低了造假门槛,导致真相体系崩塌。
AWS Quick 推出 Smart Approvals 功能,利用独立分类器模型评估 AI 智能体拟执行的操作,在符合现有权限控制的前提下自动批准常规动作或将其退回用户审查。该功能默认开启,每次自动批准仅限单次使用且针对特定参数,不授予持续权限,旨在减少重复审批对注意力的干扰。审计日志通过 AWS CloudTrail 记录相关权限更新,保留期为 90 天。
随着企业广泛采用 AI 智能体,传统基于应用或网络的安全手段已不足以应对动态数据流动带来的风险。文章指出,AI 安全的核心在于数据可见性,团队需建立数据血缘以追踪数据在人类与智能体工作流中的移动路径。这有助于在混合工作流中有效管理治理、问责及信任,防止敏感信息泄露且无法溯源。
Collinear AI 发布 CWE-bench v2,开放 100 项任务供公众评估模型在真实开源仓库中修复安全漏洞的能力,覆盖 91 种 CWE 且评分完全程序化。
Microsoft Research 研究员 Mike Walker 在访谈中阐述黑客思维对构建下一代网络防御的价值。他回顾领导 DARPA Cyber Grand Challenge 的经历,该计划展示了能自动发现并修补软件漏洞的自主 AI 系统。Walker 强调有效安全依赖于理解信任与上下文,并反思了竞争黑客对团队协作的启示。
OpenAI 正在筹备与 Cathedral Systems 合作的下一轮内部安全冲刺。该计划旨在利用 AI 测试并强化 OpenAI 的防御体系。
OpenAI 宣布提高安全漏洞赏金,并针对独立安全研究人员引入报告质量、忠诚度及优先活动奖励。此举旨在通过更细致的激励机制提升安全防御水平。
OpenAI 任命 Dan Driscoll 为国家安全现代化高级顾问。他将就负责任 AI 在国家安全现代化、网络韧性以及与美国盟友合作方面提供建议。