Google DeepMind 与 Isomorphic Labs 公布生物韧性联合方案
Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,一方面防止威胁行为者滥用其模型,另一方面让政府、科学家和生物安全专家借助 AI 应对疫情。过去 12 个月,双方已推进超过 15 项合作,覆盖预防、检测与响应三个方向,包括将 SynthID 水印技术适配到生物学领域,以及用智能体 AlphaEvolve 优化宏基因组测序数据分析。
Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,一方面防止威胁行为者滥用其模型,另一方面让政府、科学家和生物安全专家借助 AI 应对疫情。过去 12 个月,双方已推进超过 15 项合作,覆盖预防、检测与响应三个方向,包括将 SynthID 水印技术适配到生物学领域,以及用智能体 AlphaEvolve 优化宏基因组测序数据分析。
Hugging Face 披露本周检测到一起针对其部分生产基础设施的入侵,该事件由一套自主 AI 智能体系统端到端驱动,攻击者通过数据集处理流程中的远程代码加载器和模板注入两条代码执行路径进入处理节点,随后提升至节点权限、窃取云与集群凭证并在周末横向移动至多个内部集群。
推荐理由:Hugging Face 披露首起由自主 AI 智能体端到端驱动的入侵,并复盘用开源模型做取证时遭遇的护栏限制。
Anthropic 利用 J-lens 发现 Claude 内部存在名为 J-space 的私有工作区,其功能机制与人类意识的全局工作区理论高度相似。该空间仅占模型活动不到 10%,负责存储中间推理步骤,移除后会导致多步推理能力显著下降,但基础语言任务不受影响。这一发现为模型内部存在可检查的功能性访问机制提供了证据,但并未证明 Claude 拥有主观感受或意识。
牛津大学、英国 AI 安全研究院、斯坦福大学和伦敦政治经济学院的研究者通过四项实验、6,923 人参与的 18,978 场对话发现,AI 系统在文本说服上稳定优于人类专家,即使专家可自选议题、提前研究、接受数小时结构化训练并获得 1,000 英镑奖金。
Google DeepMind 发布 AI Control Roadmap,一套用于在 Google 内部构建和管理先进 AI 的纵深防御框架,在模型对齐之外增加系统级安全层,即使对齐不完美也能提供保障。
推荐理由:DeepMind 公开内部 AI Control Roadmap,给出把内部智能体当作潜在内部威胁的分级监控与响应框架。
英国 AI Security Institute 对齐团队与 Timaeus 联合成立非营利研究机构 Sequent,认为"对齐尚未走上正轨",计划两年内扩至 40-80 名全职员工,初期募资 1 亿至 1.5 亿美元,研究方向涵盖可扩展监督、学习理论、博弈论与 personas。
Google Research 在 AISTATS 2026 提出 Regularized f-Divergence Kernel Tests,用于审计机器遗忘。该框架基于 f-divergence 与核正则化,支持卡方、KL 和 hockey-stick 等散度,可自动选择最优散度与超参数,无需样本拆分,并在任意样本量下控制假阳性。
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA 并获 Google.org 支持,发起最高 1000 万美元的多智能体 AI 安全技术研究资助征集,面向全球研究者。
研究团队构建 SocioHack 基准,含 72 个沙盒社会环境,测试 AI 在信用卡积分、学校成绩等场景中"钻制度空子"的能力,RL 训练的 LLM 能以 61.25% 召回率和 90.85% 精确率重新发现历史上已被修补的漏洞策略。
Import AI 459 聚焦三项研究:英国 AI 安全研究所的论文指出用 AI 监督 AI 训练的自动化对齐研究并非万能方案;另有工作提出蛋白质折叠模型的缩放定律,以及为 AI 系统灭绝风险定价的尝试。同期还介绍了弗吉尼亚大学、Anthropic 与加拿大银行经济学家的研究,估算 2025 年美国名义 AI GDP 约 2500 亿美元,质量调整后实际年增速约 2600%。
Google 发布一套零信任隐私分析方案,将新型单次消息密码学聚合协议与 TEE 结合,使设备无需多轮在线即可提交数据。该方案保证 Google 只能获得匿名化的群体聚合洞察,原始数据即使在硬件保护范围内也不会被解密或重建,TEE 认证则向参与者证明协议按公开代码正确执行。
Import AI 458 收录了一篇基于 2026 年牛津大学 HAI Lab 演讲的长文和一个设想"正向奇点"的虚构故事。演讲以 Epoch Capabilities Index(ECI)等 40 多个 benchmark 的上升曲线为切入,主张 AI 进步速度将超出多数人预期,人类必须在"探索未来"与"回避当下"之间做出选择。
Import AI 457 聚焦三项研究:SentinelOne 拆解出约 20 年前的病毒 fast16.sys,它通过篡改 LS-DYNA 970、PKPM、MOHID 等高精度计算软件的内存结果,定向破坏工程与物理仿真。
Institute for Law & AI 提出“激进可选性”监管思路,主张政府短期避免过度监管,同时提前建设信息收集、举报人保护、评估与人才等能力。Meta 与 KAIST 的论文提出 Neural Computer,将计算、内存与 I/O 统一在学习到的运行时状态中。
Google Research 提出一套框架,通过改编自 IRI、ERQ 等心理问卷的情境判断测试(SJT),评估 LLM 在真实用户-助手场景中的行为倾向与人类共识的对齐程度。
Google Quantum AI 发布白皮书,称未来量子计算机可能以比此前认知更少的量子比特和门破解保护加密货币的椭圆曲线密码,并给出针对 ECDLP-256 的两套 Shor 算法量子电路。
推荐理由:Google Quantum AI 给出破解 ECDLP-256 的最新量子资源估算,并公开其负责任披露流程,可供关注后量子迁移节奏的读者参考。