Google DeepMind 推出 AlphaProof Code:深度验证复杂软件代码的突破
Introducing AlphaProof Code: a breakthrough in verifying complex software at depth
Google DeepMind 推出 AlphaProof Code 框架,借助 AI 智能体首次形式化验证了 Signal 加密协议的实际编译代码。该多 LLM 智能体框架结合人类专家与 Gemini Carbon 驱动的智能体,生成超600万行 Lean 证明代码,全程耗时仅4周。团队同时开源验证工件,为医疗固件等关键系统安全验证奠定基础。
该框架将形式化验证从设计推进到实现代码,为医疗固件等关键系统提供数学级安全保证开辟了可行路径。
2026年11月10日 研究
Pushmeet Kohli 和 Swarat Chaudhuri
Google DeepMind 研究人员如何构建了一个新的智能体框架,正式验证了 Signal 加密协议的代码——这长期以来被认为是一项重大的安全挑战
今天,我们分享了一个在软件安全领域长期被视为重大挑战的里程碑:Google DeepMind 研究人员指导 AI 智能体对 Signal 协议底层实际代码的关键安全属性进行了数学证明,该技术保护着 Signal 和 Google Messages 等应用中数十亿条私密对话。
这一突破性发现使用了 AlphaProof Code,这是一种新颖的智能体框架,以前所未有的深度进行形式化验证,将人类专业知识与 AI 智能体相结合。 形式化验证——通过数学方法证明代码无缺陷地正确运行——是最高标准的安全保证;然而,它难度大且通常耗时费力。
我们的工作标志着首次使用 AI 在此深度上正式验证一个广泛部署的加密协议。这也是首次通过任何方法(无论是否使用 AI)对像这样广泛部署的协议的实现进行形式化验证。
我们如何验证 Signal
AlphaProof Code 是一个多 LLM 智能体框架,它像研究团队一样拆分形式化验证的工作:人类专家与 AI 合作决定要证明什么,而一组 AI 智能体则执行证明。
首先,我们的研究人员与多种模型协作,将 Signal 的安全目标转化为形式化数学规范,并由人类专家审查每一项。随后,由 Gemini Carbon 驱动的智能体执行证明,生成了超过六百万行 Lean 代码,这是一种用于数学证明代码准确性的计算机语言。
接下来,智能体审计了证明并标记出需要人类二次审查的区域——仅占代码库的一小部分,从而大幅节省了时间。由于 Lean 会自动检查其余部分,我们的专家可以将审查重点放在人类判断最为重要的地方。
加密协议支撑着几乎所有数字通信,从在线银行到网页浏览,一个缺陷就可能同时暴露数百万人。这就是为什么专家们花了数十年时间对其进行形式化分析。
但大多数协议验证止步于设计层面。我们的智能体走得更远,证明了编译后的代码满足关键安全属性——例如在设备暂时被入侵前后保持消息保护——直至设备上运行的确切代码。由于现实世界中的漏洞往往隐藏在设计与实现之间的差距中,弥合这一差距使得这些证明变得极其复杂。
即使在这种复杂性下,我们的验证过程仅用了四周——而这一任务历史上需要专家团队花费数年——证明了 Signal 的核心加密代码提供了我们专家所规定的安全保护。
为了确认 AlphaProof Code 能够区分正确代码和有缺陷的代码,我们将两个真实的、此前已修复的漏洞重新引入 Signal 代码的隔离版本中。在这两种情况下,系统都生成了经过机器检查的证明,表明有缺陷的版本是不安全的。
在 AlphaProof Code 中,AI 智能体帮助用户编写规范,然后自主证明实现符合该规范。每个证明都由 Lean 检查以验证智能体的工作。
尽管先前的形式化验证工作必然聚焦于较小的范围,但这种新方法实现了显著扩展。传统上,验证生产代码严格符合其密码学设计需要大量人工努力,因此利用 AI 智能体将实时代码自动翻译为有效的 Lean 定理是一项重大突破。随着 AI 驱动的安全威胁日益增长,核心 Signal 协议通过自动化定理证明得到严格验证,让我们对代码兑现其隐私保证拥有更大的信心。
安全未来
实现这一长期挑战展示了 AI 如何为企业、政府和关键基础设施带来精英级的安全保障,帮助防御智能体驱动的网络威胁。
验证 Signal 的核心密码学为保护其他关键系统奠定了基础,从医疗设备固件到电网软件。
扩展这些技术需要持续的研究。与 CodeMender 等自动化防御智能体相结合,形式化验证有助于应对现代网络威胁的速度和规模,创建具有数学证明其保护机制有效的软件。
我们正在开源我们的 形式化验证工件 供社区使用。请阅读下方的技术论文。
致谢
这项研究由 Swarat Chaudhuri、Andrew Ferraiuolo、Anton Kovsharov、Tej Chajed、Sam Schlesinger、Karn Seth、Jonathan Katz、Charles Sutton 和 Pushmeet Kohli 开发。
我们感谢 Eric Wieser 在开源代码方面提供的帮助,Owen Jones 提供的项目管理支持,以及 Martín Abadi、Christopher Henson、Katerina Hristova、Henryk Michalewski、Jonathan Protzenko 和 George Tsoukalas 进行的有益讨论。我们感谢 Signal 的 Rolfe Schmidt、Michael Rosenberg 和 Ehren Kret 对我们方法论的反馈。我们还感谢 Tulsee Doshi、Four Flynn、Kate Olszewska、Alicia Huang、Andy Liu、Benoit Schillings、Raluca Ada Popa、Melvin Johnson、Koray Kavukcuoglu、Demis Hassabis 和 Sundar Pichai 对该项目的支持。
来源:Google DeepMind · deepmind.google