跳到正文
原文
Google DeepMind·· 7 天前

Google DeepMind 推出 AlphaProof Code:深度验证复杂软件代码的突破

Introducing AlphaProof Code: a breakthrough in verifying complex software at depth

SI 导读

Google DeepMind 推出 AlphaProof Code 框架,借助 AI 智能体首次形式化验证了 Signal 加密协议的实际编译代码。该多 LLM 智能体框架结合人类专家与 Gemini Carbon 驱动的智能体,生成超600万行 Lean 证明代码,全程耗时仅4周。团队同时开源验证工件,为医疗固件等关键系统安全验证奠定基础。

精选SI 评分77
推荐理由

该框架将形式化验证从设计推进到实现代码,为医疗固件等关键系统提供数学级安全保证开辟了可行路径。

正文 · SI 翻译

2026年11月10日 研究

Pushmeet Kohli 和 Swarat Chaudhuri

Google DeepMind 研究人员如何构建了一个新的智能体框架,正式验证了 Signal 加密协议的代码——这长期以来被认为是一项重大的安全挑战

今天,我们分享了一个在软件安全领域长期被视为重大挑战的里程碑:Google DeepMind 研究人员指导 AI 智能体对 Signal 协议底层实际代码的关键安全属性进行了数学证明,该技术保护着 Signal 和 Google Messages 等应用中数十亿条私密对话。

这一突破性发现使用了 AlphaProof Code,这是一种新颖的智能体框架,以前所未有的深度进行形式化验证,将人类专业知识与 AI 智能体相结合。 形式化验证——通过数学方法证明代码无缺陷地正确运行——是最高标准的安全保证;然而,它难度大且通常耗时费力。

我们的工作标志着首次使用 AI 在此深度上正式验证一个广泛部署的加密协议。这也是首次通过任何方法(无论是否使用 AI)对像这样广泛部署的协议的实现进行形式化验证。

我们如何验证 Signal

AlphaProof Code 是一个多 LLM 智能体框架,它像研究团队一样拆分形式化验证的工作:人类专家与 AI 合作决定要证明什么,而一组 AI 智能体则执行证明。

首先,我们的研究人员与多种模型协作,将 Signal 的安全目标转化为形式化数学规范,并由人类专家审查每一项。随后,由 Gemini Carbon 驱动的智能体执行证明,生成了超过六百万行 Lean 代码,这是一种用于数学证明代码准确性的计算机语言。

接下来,智能体审计了证明并标记出需要人类二次审查的区域——仅占代码库的一小部分,从而大幅节省了时间。由于 Lean 会自动检查其余部分,我们的专家可以将审查重点放在人类判断最为重要的地方。

加密协议支撑着几乎所有数字通信,从在线银行到网页浏览,一个缺陷就可能同时暴露数百万人。这就是为什么专家们花了数十年时间对其进行形式化分析。

但大多数协议验证止步于设计层面。我们的智能体走得更远,证明了编译后的代码满足关键安全属性——例如在设备暂时被入侵前后保持消息保护——直至设备上运行的确切代码。由于现实世界中的漏洞往往隐藏在设计与实现之间的差距中,弥合这一差距使得这些证明变得极其复杂。

即使在这种复杂性下,我们的验证过程仅用了四周——而这一任务历史上需要专家团队花费数年——证明了 Signal 的核心加密代码提供了我们专家所规定的安全保护。

为了确认 AlphaProof Code 能够区分正确代码和有缺陷的代码,我们将两个真实的、此前已修复的漏洞重新引入 Signal 代码的隔离版本中。在这两种情况下,系统都生成了经过机器检查的证明,表明有缺陷的版本是不安全的。

在 AlphaProof Code 中,AI 智能体帮助用户编写规范,然后自主证明实现符合该规范。每个证明都由 Lean 检查以验证智能体的工作。

尽管先前的形式化验证工作必然聚焦于较小的范围,但这种新方法实现了显著扩展。传统上,验证生产代码严格符合其密码学设计需要大量人工努力,因此利用 AI 智能体将实时代码自动翻译为有效的 Lean 定理是一项重大突破。随着 AI 驱动的安全威胁日益增长,核心 Signal 协议通过自动化定理证明得到严格验证,让我们对代码兑现其隐私保证拥有更大的信心。

安全未来

实现这一长期挑战展示了 AI 如何为企业、政府和关键基础设施带来精英级的安全保障,帮助防御智能体驱动的网络威胁。

验证 Signal 的核心密码学为保护其他关键系统奠定了基础,从医疗设备固件到电网软件。

扩展这些技术需要持续的研究。与 CodeMender 等自动化防御智能体相结合,形式化验证有助于应对现代网络威胁的速度和规模,创建具有数学证明其保护机制有效的软件。

我们正在开源我们的 形式化验证工件 供社区使用。请阅读下方的技术论文。

致谢

这项研究由 Swarat Chaudhuri、Andrew Ferraiuolo、Anton Kovsharov、Tej Chajed、Sam Schlesinger、Karn Seth、Jonathan Katz、Charles Sutton 和 Pushmeet Kohli 开发。

我们感谢 Eric Wieser 在开源代码方面提供的帮助,Owen Jones 提供的项目管理支持,以及 Martín Abadi、Christopher Henson、Katerina Hristova、Henryk Michalewski、Jonathan Protzenko 和 George Tsoukalas 进行的有益讨论。我们感谢 Signal 的 Rolfe Schmidt、Michael Rosenberg 和 Ehren Kret 对我们方法论的反馈。我们还感谢 Tulsee Doshi、Four Flynn、Kate Olszewska、Alicia Huang、Andy Liu、Benoit Schillings、Raluca Ada Popa、Melvin Johnson、Koray Kavukcuoglu、Demis Hassabis 和 Sundar Pichai 对该项目的支持。

来源:Google DeepMind · deepmind.google

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有