防止AI“删库”悲剧：开发者计划构建比NVIDIA方案更轻量的命令防火墙
针对AI编程助手可能误删数据库的风险，有开发者指出NVIDIA NeMo Guardrails等现有方案部署复杂，社区普及率低。为此，作者提议开发一款轻量级“防火墙”项目，旨在拦截LLM发出的有害指令。该项目计划采用正则表达式配合小模型AP...
标签索引 / 第 10 页
技术趋势
这个标签下有 129 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
AI 与智能体有何本质区别？技术社区热议定义与开发路径
随着大模型技术的普及，“智能体”概念迅速爆火，但业界对其与通用 AI 的区别仍存模糊。近期技术社区发起深度讨论，试图厘清二者的边界：如果说 AI 是具备推理能力的“大脑”，智能体则是能够利用工具、规划任务并自主执行的“行动者”。该话题不仅探...
OpenAI 最新实践揭晓：0 行手写代码，由 AI Agent 主导“驾驭式”开发
OpenAI 团队分享了一项名为“Harness Engineering”（驾驭工程）的实验成果，展示了完全依赖 AI Agent（Codex）进行编程的开发模式。在长达五个月的实验中，团队从空仓库开始构建了一个包含约 100 万行代码的产...
AI 编程时代重塑代码标准：人类眼中的“烂代码”，可能恰恰适合机器
随着 AI 在代码生成中的广泛应用，传统的代码质量评估体系正面临挑战。作者指出，虽然 AI 能在陌生语言中提供巨大帮助，但其生成的代码常被人类开发者诟病质量不佳。然而，传统的评判标准如函数长度或逻辑复杂度，主要是为了降低人类认知负担而设定的...
智能沦为“日用品”，上下文才是AI时代的真正护城河
本文基于对AI行业的深入观察，提出了一个反直觉的论断：随着推理能力的普及，单纯的“智能”正迅速变成廉价的基础设施。作者认为，未来的价值高地并非底层的算力巨头或基础大模型，而是位于其上的“上下文层”（Context Layer）。这一层由连接...
AI 会吞噬垂直 SaaS 吗？深度解析软件公司的生存壁垒
在 AI 技术飞速发展的当下，关于“AI 将取代传统 SaaS”的论调甚嚣尘上。然而，一位深耕垂直软件领域十年的 SaaS CEO 撰文反驳了这一悲观论调。文章指出，尽管通用大模型能力强大，但垂直软件公司依然拥有坚不可摧的护城河。这主要体现...
AI编程实战探讨：前后端分离项目如何优化AI理解上下文与接口联调？
随着AI编程工具的普及，全栈开发的效率大幅提升，但前后端分离架构给AI工具带来了上下文理解的挑战。本文讨论了在前后端分离项目中，开发者是应该将两者合并为同一目录下的子项目，还是采用其他策略来辅助AI进行代码生成和接口联调。话题核心在于解决A...
斯坦福新课直击AI开发：从“手写代码”到“Agent架构”的范式革命
斯坦福大学新课《The Modern Software Developer》系统性地定义了AI时代的软件开发新范式。课程内容覆盖提示词工程、Agent架构、模型上下文协议（MCP）及AI安全防御。其核心观点指出，编程工作流已从“手写代码”转...
AI 写代码为何“失灵”？也许你的产品根本没有竞品
面对关于“AI 编码将取代程序员”的焦虑，文章提出了一个独特的反向假设：AI 本质上可能是一个市场调研工具。由于 AI 模型基于海量开源代码训练，若它能轻易生成某段功能代码，往往意味着该解决方案在市场上已极其普遍（“烂大街”）；反之，如果 ...
软件开发的 3.1 时代：AI Functions 如何让大模型在运行时直接执行代码
本文基于 Andrej Karpathy 的软件版本理论，提出了“Software 3.1”的新范式。不同于 Software 3.0 依赖“人类提示、AI 生成、人类验证”的离线开发模式，3.1 强调在应用运行时由 LLM 动态生成并执行...