AI 编程安全新突破：Kastra 为 Claude 和 Cursor 代码操作引入“确定性”拦截机制

开发者 Fernando 和 Carlos 推出了一款名为 Kastra 的运行时安全工具，旨在解决 AI 编程智能体（如 Claude Code、Cursor、Codex）在生产环境中可能引发的灾难性操作问题。该项目的诞生源于作者亲身经历的一次险情：其 Cursor 智能体差点执行了一条删除生产数据库数据的 SQL 指令。Kastra 的核心逻辑在于，鉴于大语言模型（LLM）的概率性本质，仅靠提示词无法确保系统安全，因此必须在工具调用层引入确定性的策略拦截。

Kastra 通过拦截引擎，在智能体执行动作前对工具、目标和参数进行评估，并做出允许、暂停或拒绝的决策。用户可以用自然语言在 Web 应用中配置策略，系统还内置了涵盖高危场景的策略包。此外，Kastra 提供了一项名为“Recon”的扫描功能，能够分析本地的智能体历史记录，识别出过往的敏感操作（如写入密钥、触碰生产库、强制推送等），并据此自动生成防护规则。目前，Kastra 的桌面版、CLI、仪表板及扫描功能对开发者免费开放，旨在通过毫秒级的策略判断，让开发者在不完全信任模型的前提下也能安全地利用 AI 提升开发效率。

事件分析

💡 核心观点：AI 智能体从“对话”走向“执行”的必经之路，是将安全性从概率性的提示词工程转向确定性的运行时策略管控。