大模型能否攻克形式化验证？探索LLM在TLA+系统建模中的能力表现
本文探讨了大语言模型（LLM）在处理高严谨性形式化规约语言TLA+时的潜力与局限。TLA+是设计复杂并发和分布式系统的核心工具，能从数学层面证明系统正确性，但其学习门槛极高。文章或相关研究通过实验测试了LLM生成TLA+模型的能力，结果显示...
标签索引
形式化验证
这个标签下有 25 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
当软件工程遇上桌游：用形式化验证和AI重构《龙与地下城》核心规则
本文详细介绍了如何利用形式化规范语言（Quint）和模型驱动测试（MBT）来建模并验证《龙与地下城》极度复杂的战斗规则系统。作者通过状态机精确处理了“反法术链”、借机攻击中断等高交互场景，并利用MBT发现了大量人工测试难以覆盖的逻辑漏洞。此...
Anthropic 推出 Project Glasswing：用形式化验证为 AI 供应链构建“数学级”安全防线
AI 安全公司 Anthropic 正式启动“Project Glasswing”计划，旨在解决 AI 时代最薄弱的环节——软件供应链安全。随着 AI 模型日益成为关键基础设施，其底层依赖的操作系统、编译器和库的安全性至关重要。该项目通过引...
AI + 证明助手联手：计算机泰斗Knuth的“Claude Cycles”难题研究获新进展
这项工作延续了“人类+AI+证明助手”的前沿研究模式，旨在解决计算机科学先驱Donald Knuth提出的“Claude Cycles”难题。通过结合人工智能的生成能力与形式化验证工具的严密逻辑，研究团队在该算法问题的证明与优化上取得了新的...
美团开源560B参数推理模型LongCat：融合Agent工具调用，登顶Lean4定理证明SOTA
美团正式开源代号为LongCat-Flash-Prover的5600亿参数MoE模型。该模型将形式化推理拆解为自动形式化、草图生成及完整证明生成三大核心能力，并创新性地通过Agent工具集成推理与Lean4编译器进行实时交互验证。在训练上，...
探索验证软件工程前沿：Lf-lean项目引发AI与形式化验证讨论
Hacker News上关于Lf-lean的讨论指出，该项目旨在将Rocq（原Coq）中的定理和经典教程移植到Lean语言中。评论认为，虽然“逻辑基础”是极佳的教程，但单纯的代码移植在AI能力日益强大的今天已不足为奇。这一讨论不仅反映了形式...
LLM时代的可靠性危机：如何构建真正值得信赖的软件系统？
随着大语言模型（LLM）的崛起，软件开发正在经历从确定性逻辑向概率性生成的转变，但这引发了严重的可靠性危机。本文指出，尽管AI能极大提升编码效率，但其固有的“幻觉”缺陷使其无法直接应用于安全攸关的系统。文章强调了形式化验证和规范语言在AI时...
里程碑：AI全自动完成高维球堆积形式化证明，攻克菲尔兹奖级难题
Hacker News社区热议，AI系统已成功“全自动”完成了高维球堆积问题的形式化证明。该数学难题曾助力数学家维亚佐夫斯卡斩获菲尔兹奖，其原始证明过程极为复杂。此次突破不仅意味着AI掌握了极高难度的数学逻辑，更能独立完成顶级数学成果的严谨...
AI原生软件新范式：VSDD——融合规格、测试与对抗验证的终极开发流
本文提出了一种名为“验证规格驱动开发（VSDD）”的AI原生软件工程方法论。VSDD将规格驱动（SDD）、测试驱动（TDD）和验证驱动（VDD）融合为统一的AI编排流程。该方法论利用Claude等模型构建代码，同时引入由Gemini扮演的“...
实战Z3求解器：如何在编译阶段通过形式化验证捕获逻辑漏洞
本文源自技术博主Hillel Wayne对Z3求解器的趣味脚本探索。Z3是一款强大的SMT（可满足性模理论）求解器，常用于编程语言中的逻辑与约束验证。不同于传统的测试手段，Z3允许开发者在代码编译阶段就利用形式化方法发现深层逻辑漏洞，彻底改...