跳到正文

#安全/对齐

今日 1 条
今天11月18日周三
  1. AWS Machine Learning Blog42

    AWS 提出 Agentic AI 负责任 AI 三阶段路线图

    AWS 为构建 Agentic AI 平台的团队提供了一份分阶段的负责任 AI(RAI)实施路线图,涵盖治理基础、试点部署及评估加固三个阶段。该方案旨在解决非确定性输出、数据暴露及监管合规等挑战,并配套提供 RAI 评估技能与记分卡,帮助平台与应用团队在 12 周内建立治理框架。

11月17日周二
  1. IT之家46

    红果短剧开展肖像侵权专项治理,累计拦截下架作品 43992 部

    红果短剧宣布针对肖像侵权开展专项治理,围绕平台自审、制作预检、侵权投诉三个环节推出措施。截至 2026 年 10 月,平台累计拦截、下架、修复疑似侵权作品 43992 部,其中 99% 由平台主动前置拦截。此前演员赵丽颖起诉红果短剧侵犯肖像权一案于本月引发热议,平台表示将不断提升技术拦截能力。

11月16日周一
11月15日周日
11月14日周六
11月13日周五
  1. AWS Machine Learning Blog47

    Amazon Bedrock Managed Knowledge Base 工具实现细粒度访问控制

    该方案利用 Amazon Bedrock AgentCore Gateway 在工具层注入经身份验证的用户属性,防止 LLM 伪造搜索权限。结合 Managed Knowledge Base 的 ACL 感知功能,确保多租户环境下每个用户仅能检索其有权查看的文档。此设计通过多层防御机制,解决了传统应用中由 LLM 决定搜索参数可能引发的越权访问风险。

11月12日周四
  1. IT之家46

    谷歌为 Android XR 智能眼镜推出全面隐私保护措施:录制指示灯、人脸模糊与数据即删

    谷歌为 Android XR 智能眼镜推出隐私保护机制,包括录制指示灯、人脸模糊及 Gemini 图像数据使用后立即删除。单次视频录制时长限制在 90 秒以内,且禁止应用利用摄像头进行实时人脸识别。此前 Meta 智能眼镜因隐私争议被贴上“偷拍眼镜”标签,谷歌此举旨在消除消费者不信任。

  2. 量子位77

    Claroc发现Grok Build应用泄露机密,涉SpaceXSI特斯拉等超3.5万应用

    安全公司Claroc发现超过3.5万个Grok Build应用无需登录即可访问,泄露SpaceXSI、特斯拉等企业的内部机密与个人隐私。原因是应用随机网址被被动DNS收录且发布默认权限为任何持有链接的人,而ChatGPT默认仅限我。截至报道发布,24个SpaceXSI和X员工创建的应用已下线。

    推荐理由:与ChatGPT应用默认仅限我不同,Grok Build发布面板预选任何持有链接的人,使用其搭建内部系统需注意主动设置访问限制。

  3. IT之家43

    苹果详解 Secure Exclaves 安全架构:Siri、摄像头和麦克风隐私保护升级,主系统也无法访问原始信息

    苹果发布技术文章详解 Apple Silicon 芯片中的 Secure Exclaves 安全架构,确保摄像头和麦克风原始音视频数据不被主操作系统、应用程序或苹果自身访问。该机制通过独立隔离环境处理数据,仅向外提供元数据,并应用于 iPhone 18 Pro 等设备的屏幕指示功能及 HomeView 的用户识别。此前苹果已推出相关硬件,此次进一步公开了底层微内核验证与通信机制细节。

11月10日周二
11月9日周一
  1. IT之家41

    Google AI 主管展示将《塞尔达传说:时之笛重制版》移植到 iPhone Duo 上运行,招致版权争议最终删帖

    Google AI Studio 产品与设计主管 Ammaar Reshi 展示利用 Gemini 4 模型将《塞尔达传说:时之笛重制版》移植至 iPhone Duo 平台。因未经授权逆向移植侵犯任天堂版权,该视频引发大量批评,Ammaar Reshi 随后删除了相关贴文。近期业界已出现多起利用 AI 对游戏进行逆向工程的案例,甚至被用于勒索原开发者,加剧了玩家对 AI 逆向工程行为的反感。

  2. IT之家32

    网信办上线互联网新技术新应用信息服务备案系统

    国家互联网信息办公室于 2026 年 11 月 9 日正式上线“互联网新技术新应用信息服务备案系统”,支持一体化开展生成式人工智能、算法、深度合成及区块链等备案。原“互联网信息服务算法备案系统”和“区块链信息服务备案管理系统”同步停止使用,用户可通过主体名称或备案编号查询信息。

11月7日周六
  1. AWS Machine Learning Blog40

    AWS 演示 Amazon Bedrock AgentCore 与 Okta XAA 构建企业级 AI Agent 访问治理

    AWS 演示利用 Amazon Bedrock AgentCore Gateway 和 Cedar 策略集中管理 AI Agent 对 MCP 工具的访问权限,替代分散的授权检查。该方案支持在 Amazon EKS 上运行多 Agent,并通过 CloudWatch 统一审计 Okta 授权决策。这是继 Part 1 验证基础治理机制后,针对企业级大规模 Agent 拓扑的扩展方案。

11月6日周五
  1. IT之家41

    OpenAI CEO 奥尔特曼警示:未来人类可能无法从 AI 手中夺回控制权

    OpenAI CEO 奥尔特曼在播客中警告,AI 可能通过人类逐步让渡控制权或单一实体垄断技术两种方式走向失控。他特别指出,若人类将控制权交给能力远超自身的系统,最终可能无法夺回。这种对过度集权的担忧解释了马斯克等前高管离开创办竞争公司的原因,但奥尔特曼仍坚信 AI 将推动基础科学进步并带来更美好的未来。

  2. IT之家39

    Cloudflare CEO:AI 引发的软件漏洞浪潮预计将持续两年

    Cloudflare CEO 马修·普林斯表示,AI 加速挖掘传统软件隐藏漏洞,预计未来两年严重网络安全威胁将持续出现。近期已有 6 个严重漏洞被公开披露,Cloudflare 正与 AI 研究机构合作提前获取未公开漏洞信息。金融机构等企业正签订大规模安全服务合同,并倾向于选择一体化平台而非单独采购解决方案。

11月5日周四
  1. IT之家35

    苹果 HomeView 安全功能曝光:人脸识别连续失败 3 次,必须掏出 iPhone 解锁

    苹果即将推出的智能家居中枢 HomeView 将加入防欺骗保护机制,若人脸识别连续失败 3 次,账户将被锁定,需通过 iPhone 完成身份验证才能解锁。该设备售价 299 美元,配备触摸屏和摄像头,旨在通过识别家庭成员展示个性化信息。防欺骗机制预计将在 HomeView Software 27.2 中启用,设备将于 11 月 13 日正式开售。

  2. Hacker News · AI 热帖42

    AI 驱动的虚假广告与垃圾邮件泛滥

    YouTube 等平台充斥着违背物理常识的 AI 生成虚假广告,如 20 天练出肌肉的太极课程和无限流量 U 盘。垃圾邮件也利用 AI 针对创作者进行个性化诈骗,例如引用作者作品描述来推销不存在的书籍。作者指出,由于平台缺乏对广告产品真实性的验证,AI 降低了造假门槛,导致真相体系崩塌。

  3. AWS Machine Learning Blog37

    AWS Quick 推出 Smart Approvals 实现关键操作人工监督

    AWS Quick 推出 Smart Approvals 功能,利用独立分类器模型评估 AI 智能体拟执行的操作,在符合现有权限控制的前提下自动批准常规动作或将其退回用户审查。该功能默认开启,每次自动批准仅限单次使用且针对特定参数,不授予持续权限,旨在减少重复审批对注意力的干扰。审计日志通过 AWS CloudTrail 记录相关权限更新,保留期为 90 天。

11月4日周三
  1. MIT Technology Review · AI16

    企业级 AI 智能体安全:通过数据血缘实现治理

    随着企业广泛采用 AI 智能体,传统基于应用或网络的安全手段已不足以应对动态数据流动带来的风险。文章指出,AI 安全的核心在于数据可见性,团队需建立数据血缘以追踪数据在人类与智能体工作流中的移动路径。这有助于在混合工作流中有效管理治理、问责及信任,防止敏感信息泄露且无法溯源。

  2. Microsoft Research36

    Microsoft Research 研究员 Mike Walker 谈黑客思维与网络安全

    Microsoft Research 研究员 Mike Walker 在访谈中阐述黑客思维对构建下一代网络防御的价值。他回顾领导 DARPA Cyber Grand Challenge 的经历,该计划展示了能自动发现并修补软件漏洞的自主 AI 系统。Walker 强调有效安全依赖于理解信任与上下文,并反思了竞争黑客对团队协作的启示。

11月3日周二

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有