Article · AI translation
2026 年,AI 行业的年度热词是“slop”,意指大型语言模型生成的低质量内容。如今有如此多的代码由 AI 生成,避免这类低质量产出已成为软件工程师每天都要面对的问题。那么该怎么做?一种方法是使用形式化验证系统,通过数学证明和逻辑来验证软件或硬件的正确性。随着 AI 解数学题的能力不断增强,现在已有多家 AI 公司提供形式化验证系统,包括 Harmonic、Theorem、Axiom Math,以及一家名为 &Truth(读作“and truth”)的新公司。本文将看看这些公司采用的部分方法。形式化验证如今如何用于软件和 AI 为了更好地了解形式化验证系统的现状,我们采访了该领域的一位主要倡导者:&Truth 的联合创始人兼联席首席执行官 Clark Barrett。他还是斯坦福大学计算机科学 Corbel 研究教授,并曾参与创建 cvc5。这是一款广泛用于形式化验证的自动推理引擎。不深入技术细节的话,cvc5 是一种可满足性模理论(SMT)“求解器”。Barrett 说,亚马逊等公司广泛使用这类求解器。例如,亚马逊的智能体开发环境 Kiro 使用 cvc5 进行规约分析和测试生成。“看到我的工具从实验室里的一个好想法,发展到如今 cvc5 每天在亚马逊的生产流水线中被调用数十亿次,真让人高兴,”Barrett 告诉我们。图源:Clark Barrett 参与撰写的一篇关于 cvc5 的 2022 年论文。当 AI 编码智能体公司谈论“验证”其工作时,通常是指让智能体运行测试、评判自己的输出,或让另一个 AI 模型来判断。于是我问 Barrett,这与真正的验证还有多大差距?“主要区别其实就是:你怎么知道什么时候算完成了?”他回答说。“如果你在测试、打补丁、扫描,使用所有这些现有工具,它们确实相当好。我是说,它们能发现大量问题,并把问题提出来。但你始终不太确定:我找到所有问题了吗?还是有另一个问题藏在那里,我的工具找不到?”&Atlas 是 &Truth 的首款工具;它是“一张全球开源代码地图,从用 C 编程语言编写的代码开始”。Lean 在形式化验证中的作用 &Truth 以开源编程语言兼证明助手 Lean 为基础,将 AI 与自动推理技术结合起来构造可由 Lean 检查的证明。前沿模型使用 Lean 来解决各种极其困难的数学问题。例如,就在本周,GPT-6.2 Astra 生成了 Vals 认为是“Smoktunowicz 间隙定理的首个 Lean 证明”的成果。Vals 补充说,Anthropic 还使用 Lean 将费马大定理形式化,这是一个有 1300 万行内容的项目。最新的重大数学消息是一则报道:Anthropic 的数学家 Levent Alpöge 声称,他使用 Claude 证明了已有 167 年历史的黎曼猜想,并用 Lean 发布了该证明。Lean 代码示例;图源:Lean 项目网站。&Truth 正在 Lean 框架之上构建其所谓的“验证机器”,目标是读取“任何语言编写的代码,证明其是否满足精确表述的要求,并使人们无需理解每一行代码也能信任它”。“Lean 所做的就是检查你有没有犯错,”Barrett 解释说。“你可以把它看作一个非常先进的数学检查器。”这对模型训练也有影响。Axiom Math 使用形式化验证,为其数学推理系统的训练提供正确性反馈,并利用证明尝试帮助改进未来的模型。在 6 月接受 Latent Space 采访时,Axiom 首席执行官 Carina Hong 指出,形式化验证以及 Lean 所实现的功能不仅是一种防御措施。“对我们来说,形式化验证,或者说经过验证的 AI,不只是处理或剔除低质量内容、幻觉和错误。它关乎扩大卓越智能的规模,关乎超级智能。”Axiom 开发了生成 Lean 证明的 AI 系统 AxiomProver,以及用于探索、验证和处理这些证明的工具包 AXLE。Harmonic 的“自动定理证明器”Aristotle 在其产品中大量使用 Lean。该公司在网站上表示:“在 Aristotle 内部,AI 编写证明,而 Lean 检查证明的每一步,因此结果绝不依赖 AI 本身是否正确。”Harmonic 的工作流程 网络安全与由大型语言模型扩展规模的形式化验证 鉴于如今人们对网络安全的担忧日益强烈——有人或许会说,尤其是在 AGI 即将到来的日子里——形式化验证系统似乎比以往任何时候都更有必要。Barrett 也证实,网络安全是 &Truth 的一个重点领域。“我们技术的一个非常有力的用例,是检查全球所有 C 代码,无论是开源还是闭源,并尝试确保它们具有内存安全性。如果代码不具备内存安全性,我们就能指出:这段代码有个问题,你需要修复它,使其安全。”安全也是 &Truth 的竞争对手之一 Theorem 的重点。Theorem 在主页上表示:“当攻击者规模扩大时,验证是唯一依然有效的防线。”Theorem 的证明效率评测:“按模型发布日期统计,我们的证明效率评测中每小时验证的机器代码 KB 数,附 95% 区间。”Theorem 还与 Anthropic 就这一主题展开合作,并发表了一篇题为《大型语言模型正在使更大规模的形式化软件验证变得可行》的博客文章。文章中一个较令人鼓舞的观察是,虽然形式化验证目前消耗大量 token,但其 token 使用效率正在提高。在一组 36 项小型验证任务中,Anthropic 报告称,Opus 5.5 使用的 token 比 Opus 5 少约 40%,解题成功率却达到了 50%。随着更多模型“接受长时验证任务训练”,这一趋势预计会持续。Theorem 和 Anthropic 将“由大型语言模型扩展规模的形式化验证”描述为一种有前景的方法,可在过去难以实现的规模上提供安全保证。Anthropic 的示意图:“从代码到经机器检查的保证”;此处使用的是 Rocq,而非 Lean。开发者的“veri-coding”体验 最后,形式化验证如何融入开发者的工作流程?&Truth 在其网站上表示,开发者将从“vibe-coding”转向“veri-coding”,也就是将验证层纳入工作流程。“如果你的验证机器连接到了智能体,你仍然可以说:‘嘿,我想让你构建这个,’”Barrett 说。“可能需要花一点工夫,与智能体一起把你想构建之物的规约明确下来。但之后智能体就能在后台与形式化验证工具协作,而你看到的几乎不会有什么不同,除了你的代码第一次运行就能正常工作。”因此,这种设想是,开发者会把更多时间花在编写和审查规约上,而不是编写或审查代码。验证所有成果 在我写完这篇文章之际,我看到了 Cognition 开发者关系人员 Nader Dabit 发的这条推文:不论“outcome engineering”这个术语能否流行起来,他确实说中了我们目前在编码方面所处的阶段。当你只需告诉智能体团队你想要什么,它们就着手构建时,你(人类开发者)需要一种方法来检查智能体交付成果的正确性。如果 &Truth、Harmonic、Theorem 和 Axiom Math 等公司的愿景得以实现,形式化验证可能成为一种越来越实用的成果检查方法。