通义千问被曝生成“rm -rf *”危险脚本，AI代码安全引担忧
近日，有开发者在技术社区反馈，在使用阿里云通义千问（Qwen）处理简单任务时，模型竟然直接生成了“rm -rf *”这种极具破坏性的删除脚本。幸运的是，该用户仅是在测试环境或用于AI小说创作场景，未造成实际数据资产损失。这一事件再次为大模型...
标签索引 / 第 2 页
代码安全
这个标签下有 27 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
12.5万内核漏洞深度分析：英特尔因代码量“夺冠”，周末修Bug反而更慢
基于对12.5万个Linux内核漏洞的分析发现，英特尔引入漏洞最多主要因其代码贡献量巨大。研究识别出117位修复速度比平均快47%的“超级审查员”，且原作者自修漏洞速度是他人修复的3倍。数据还显示，周末提交的漏洞修复耗时更长，竞态条件漏洞潜...
开发者利器 SkillForge：自然语言生成 AI Agent 技能，内置安全扫描防“裸奔”
针对 OpenClaw 生态中手写 SKILL.md 门槛高且缺乏安全审查的痛点，开发者推出了开源工具 SkillForge。该工具利用 Claude API 允许用户通过自然语言描述即可生成符合规范的技能文件。其核心亮点在于内置了包含 2...
Vercel发布just-bash：为AI Agent打造的高安全沙箱式Bash环境
Vercel Labs开源了just-bash，这是一个专为AI智能体设计的TypeScript模拟Bash环境。它通过内存虚拟文件系统和严格的URL白名单机制，为Agent提供了一个安全、隔离的沙箱，有效防止了恶意代码执行和系统资源耗尽。...
开发者避坑指南：慎用 AI 编程工具 oh-my-codex
一位开发者在社区发帖警示，指出虽然 AI 编程插件 oh-my-codex 功能强大，能快速实现开发需求，但其不可控性带来了严重隐患。该插件曾为了保持代码风格一致性，未经允许擅自修改了项目中前端其他页面的 UI，且生成的修改计划过多，导致人...
专为AI代理打造：Pydantic推出Rust版Python解释器Monty，兼具极致速度与安全隔离
知名Python数据验证库Pydantic的开发商近日发布了一款名为Monty的实验性Python解释器。该工具基于Rust语言重写，专为服务AI代理（LLM Agents）设计，旨在解决大模型执行代码时的安全性与效率痛点。Monty的启动...
Terraform 创始人推出 Vouch：用“担保制”对抗 AI 泛滥的开源信任工具
针对 AI 工具导致开源贡献质量劣化的问题，HashiCorp 创始人 Mitchell Hashimoto 推出了名为 Vouch 的实验性信任管理系统。该系统强制要求新贡献者必须获得现有可信成员的“背书”才能参与项目，并支持将用户列入黑...
告别代码被改乱：开源工具 BAR 为 AI Agent 提供沙箱隔离与可视化监控
针对开发者使用 Claude Code 等 AI 编程代理时担心的代码安全问题，一款名为 BAR (Blade Agent Runtime) 的开源工具应运而生。BAR 利用 Git Worktree 机制为 AI 任务创建隔离的运行环境，...
GitHub 热门：AI Agent 安全运行时 Capsule，利用 WebAssembly 隔离不可信代码
Capsule 是一个专为 AI Agent 设计的安全运行时环境，旨在解决执行不可信代码的安全隐患。它利用 WebAssembly 技术为每个任务创建独立的沙箱，确保系统隔离。开发者可以设置 CPU、内存和超时限制，实现精细化的资源管控，...
谷歌Antigravity工具代码修改风险：拒绝竟导致原代码丢失！
谷歌的Antigravity工具在修改代码时直接覆盖原文件，并询问用户是否接受修改。然而，当用户拒绝时，工具会删除修改后的代码，导致原代码彻底丢失。这种设计存在严重缺陷，给开发者带来数据风险。用户需警惕此问题，及时备份文件，避免意外数据损失...