AI强化学习赋能形式化验证：如何训练你的程序验证器
本文深入探讨了将深度强化学习应用于程序验证器的创新方法。文章借鉴类似AlphaZero的搜索算法，介绍了如何训练AI模型在复杂的代码搜索空间中高效寻找漏洞或生成正确性证明。这一突破性尝试旨在解决传统形式化验证成本高昂、门槛极高的问题，对于提...
标签索引 / 第 2 页
形式化验证
这个标签下有 25 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
告别AI幻觉：为何Lean 4成为科技巨头构建可信AI的新护城河
大型语言模型（LLM）的幻觉问题限制了其在金融和医疗等高风险领域的应用。Lean 4作为一种开源的形式化验证工具，通过严格的数学证明为AI系统引入了确定性和安全性。文章探讨了OpenAI、Meta及初创公司Harmonic AI如何利用Le...
Lean 4 学习指南（一）：解锁编程与数学证明的融合之道
这篇由 Lean 核心贡献者撰写的系列教程，深入介绍了 Lean 4 这一现代交互式定理证明器和函数式编程语言。文章不仅涵盖了 Lean 的语法基础和类型系统，更重点剖析了其强大的元编程能力。Lean 4 能够让开发者在编写代码的同时构建数...
首款“数学原生”OS发布：Axiom融合大模型与形式化验证，从内核根治AI幻觉
Axiom 被称为全球首个从内核层面融合人工智能与形式化数学的操作系统。作为一个“数学原生”系统，它允许直接使用 $x^2$ 等数学语法作为有效代码。其核心创新在于“神经符号”架构：利用高速大语言模型（如 Qwen）提供创造性推理，同时通过...
数学界大地震：康内斯嵌入问题被证伪，量子计算理论立奇功
困扰数学界四十年的著名猜想“康内斯嵌入问题”（CEP）近日被正式证伪。这一历史性突破并非源自传统纯数学路径，而是由量子计算专家利用复杂性理论（MIP* = RE）完成，揭示了量子纠缠与非交换代数之间的深刻联系。此外，Hacker News讨...
融合有色佩特里网与大模型：重构分布式系统架构
本文探讨了如何将有色佩特里网（Colored Petri Nets）这一经典的数学建模技术引入LLM与分布式应用领域。作者指出，尽管LLM具备强大的生成能力，但在处理涉及复杂状态流转和并发控制的分布式任务时往往缺乏确定性。通过结合佩特里网的...
从 PBS 儿童节目到 Lean4：如何用代码构建无懈可击的数学证明
这篇文章生动地介绍了如何使用 Lean4 这一交互式定理证明语言，对 PBS 儿童节目《Cyberchase》中的经典博弈谜题进行形式化验证。作者详细展示了如何用代码定义游戏规则、编写必胜策略，并通过数学归纳法构建严谨的证明过程。这不仅是一...
形式化验证的信任危机：当“绝对正确”的证明器出现裂痕
本文由计算机科学泰斗、Isabelle定理证明器创始人Lawrence Paulson撰写，深刻剖析了形式化验证领域的“阿喀琉斯之踵”。虽然形式化验证被视为保障芯片设计、操作系统及AI算法安全的“黄金标准”，但Paulson指出，证明器本身...
攻克并发“圣诞老人难题”：利用模型检查器验证多线程系统的正确性
文章深入探讨了经典的计算机科学并发问题——“圣诞老人问题”，并展示了如何利用模型检查器这一形式化验证工具来求解。文章指出，传统的并发编程依赖开发者经验，难以覆盖所有边界条件；而模型检查器通过数学建模，可以穷举所有可能的线程交错执行路径，自动...
沃伦姆探讨P vs NP难题：从Ruliology视角看计算本质
Stephen Wolfram 发布新文章，尝试从“Ruliology”视角探讨著名的P vs NP问题及计算的本质困难。文章主张通过观察计算宇宙中的简单程序来理解复杂性。该讨论在Hacker News上引发了关于形式化验证的激烈辩论，焦点...