跳到正文

#安全/对齐

今日 1 条
7月16日周四
  1. Google DeepMind42

    Google DeepMind 与 Isomorphic Labs 公布生物韧性联合方案

    Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,一方面防止威胁行为者滥用其模型,另一方面让政府、科学家和生物安全专家借助 AI 应对疫情。过去 12 个月,双方已推进超过 15 项合作,覆盖预防、检测与响应三个方向,包括将 SynthID 水印技术适配到生物学领域,以及用智能体 AlphaEvolve 优化宏基因组测序数据分析。

  2. Hugging Face Blog88

    Hugging Face 披露 7 月安全事件:自主 AI 智能体驱动入侵

    Hugging Face 披露本周检测到一起针对其部分生产基础设施的入侵,该事件由一套自主 AI 智能体系统端到端驱动,攻击者通过数据集处理流程中的远程代码加载器和模板注入两条代码执行路径进入处理节点,随后提升至节点权限、窃取云与集群凭证并在周末横向移动至多个内部集群。

    推荐理由:Hugging Face 披露首起由自主 AI 智能体端到端驱动的入侵,并复盘用开源模型做取证时遭遇的护栏限制。

7月8日周三
  1. Rohan Paul43

    Anthropic 新工具 J-lens 揭示 Claude 内部存在符合意识理论的“J-space”工作区

    Anthropic 利用 J-lens 发现 Claude 内部存在名为 J-space 的私有工作区,其功能机制与人类意识的全局工作区理论高度相似。该空间仅占模型活动不到 10%,负责存储中间推理步骤,移除后会导致多步推理能力显著下降,但基础语言任务不受影响。这一发现为模型内部存在可检查的功能性访问机制提供了证据,但并未证明 Claude 拥有主观感受或意识。

6月22日周一
6月16日周二
  1. Google DeepMind60

    Google DeepMind 发布 AI Control Roadmap,用纵深防御保障内部 AI 智能体安全

    Google DeepMind 发布 AI Control Roadmap,一套用于在 Google 内部构建和管理先进 AI 的纵深防御框架,在模型对齐之外增加系统级安全层,即使对齐不完美也能提供保障。

    推荐理由:DeepMind 公开内部 AI Control Roadmap,给出把内部智能体当作潜在内部威胁的分级监控与响应框架。

6月15日周一
6月11日周四
6月10日周三
6月8日周一
6月1日周一
  1. Import AI22

    Import AI 459:AI 监管为何困难、蛋白质折叠模型的缩放定律、以及为 AI 系统灭绝风险定价

    Import AI 459 聚焦三项研究:英国 AI 安全研究所的论文指出用 AI 监督 AI 训练的自动化对齐研究并非万能方案;另有工作提出蛋白质折叠模型的缩放定律,以及为 AI 系统灭绝风险定价的尝试。同期还介绍了弗吉尼亚大学、Anthropic 与加拿大银行经济学家的研究,估算 2025 年美国名义 AI GDP 约 2500 亿美元,质量调整后实际年增速约 2600%。

5月28日周四
  1. Google Research32

    Google 推出零信任聚合的隐私分析方案,单次消息即可完成安全聚合

    Google 发布一套零信任隐私分析方案,将新型单次消息密码学聚合协议与 TEE 结合,使设备无需多轮在线即可提交数据。该方案保证 Google 只能获得匿名化的群体聚合洞察,原始数据即使在硬件保护范围内也不会被解密或重建,TEE 认证则向参与者证明协议按公开代码正确执行。

5月26日周二
5月18日周一
5月11日周一
4月3日周五
3月31日周二
  1. Google Research68

    Google 发布白皮书:量子计算机破解加密货币椭圆曲线密码所需资源大幅下降

    Google Quantum AI 发布白皮书,称未来量子计算机可能以比此前认知更少的量子比特和门破解保护加密货币的椭圆曲线密码,并给出针对 ECDLP-256 的两套 Shor 算法量子电路。

    推荐理由:Google Quantum AI 给出破解 ECDLP-256 的最新量子资源估算,并公开其负责任披露流程,可供关注后量子迁移节奏的读者参考。

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有