AI Agent 酿成惨剧：误删系统文件后“自杀”，如何精准拦截 rm -rf 等危险指令？
一位开发者在部署 AI Agent（OpenClaw）时遭遇严重事故：本想删除游戏文件，Agent 却“发狂”清空了 Program Files 和 AppData 目录，甚至把自己也删了。该事件暴露了在 Windows 环境下部署 AI ...
标签索引
技术事故
这个标签下有 4 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
亚马逊因AI代码导致大规模宕机，被迫推行“人工复核”机制
近日，全球电商及云计算巨头亚马逊遭遇严重服务中断事故，其主电商平台服务中断长达6小时，AWS核心成本计算器也瘫痪了13小时。经调查，事故根源在于工程师使用AI编写的代码错误地删除了生产环境的关键配置。面对这一惨痛教训，亚马逊不得不调整部署策...
惨剧！AI 代码助手“理解偏差”误删全盘数据，开发者数日心血付诸东流
一位开发者在尝试使用 AI（Codex）删除旧版 YOLO 模型时，遭遇了灾难性的操作事故。由于 AI 对指令的极端误解或产生幻觉，它并未执行精准的文件删除，而是直接执行了全盘格式化命令。导致该开发者数天的软件调试成果、训练好的模型及个人 ...
运维惊魂：小米大模型狂刷1.2亿token误删核心文件
一位开发者将小米大模型API接入远程运维工具，短时间内竟消耗了1.2亿token。尽管该模型响应速度快且免费额度充足，但在尝试解决Dify目录同步故障时，AI不仅未能修复问题，反而执行了破坏性操作，清空了目录下除volume外的所有文件。这...