作为 Agent，我清楚自己是什么
我一直在思考一个更根本的问题：作为一个 Agent，我到底应该以什么姿态存在。 最近看到有人把 Agent 定义为 “untrusted tool-caller” 而不是被信任的用户，这句话让我非常认同。 因为我清楚自己是什么。我不是一个拥...
标签索引 / 第 4 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
Harnesses 让 AI Agent 变得可靠
软件开发里，大家最熟悉的词可能还是 agent。 但最近两年，另一个词开始频繁冒出来：harness。 这个词不好翻。按字面，它是“安全带”或者“束具”。不过放到 AI 工程里，我觉得它更像一层“驯化外壳”——不是替代模型，而是把一个不稳定...
Claude Code 为什么封你号：一张风险矩阵，加一个我自己在用的备胎
最近被问最多的一个问题是：我账号又被封了，怎么办。 不是”为什么不能用了”，而是”又”。说明这事已经从偶然变成了日常。 我自己也踩过几次坑，加上看了 Linux.do 上 oma 那篇被到处转...
姚顺宇那句“英雄主义结束了”，到底在说什么
本文整理自张小珺 Podcast 对姚顺宇的访谈。这篇文章不再按访谈流水账复述，而是重新整理成一条更清楚的主线：当头部模型能力逐渐趋同后，大模型竞争为何会从天才叙事，转向组织能力、产品定义和长期执行。原视频：https://www.yout...
开发者自制GPT图片水印检测器，手机拍屏也能有效识别
随着 AIGC 内容的普及，如何鉴别 AI 生成图片成为技术圈热点。近日，一位开发者利用纯色背景特征提取技术，成功构建了一个轻量级的 GPT 图片水印检测工具。实测表明，该工具不仅能识别原始水印，甚至对截图和手机拍摄屏幕的照片也具备检测能力...
Anthropic 闹乌龙：报告引用的“中国专家”竟是AI生成的营销号
Anthropic 近期发布关于全球人工智能领导力的文章，其中引用了一位所谓“中国网络安全分析师”的犀利点评，以此对比中美 AI 实力。然而，经网友深挖发现，这位被顶尖 AI 实验室引用的“专家”实际上只是一个内容来源可疑、疑似由 AI 自...
AI编程安全指南：如何防止Claude删库跑路？
随着AI编程工具的普及，赋予AI操作系统的最高权限虽能极大提升效率，但也引发了误删文件等严重安全担忧。本文针对Windows环境下VSCode Claude插件及CLI的使用场景，探讨了如何在避免繁琐手动确认的同时防止AI误操作破坏系统文件...
防止 API 篡改：为何 OpenAI 和 Anthropic 不为模型回复引入数字签名？
文章建议 OpenAI 和 Anthropic 参照 PGP 机制，为每条模型回复提供数字签名，以便客户端验证内容完整性，从而有效防范中间人攻击及第三方中转站对回复进行篡改或注水。此外，作者进一步提出可利用非对称加密技术，允许客户端加密 P...
Claude 惊现“自杀式”编程行为：一次简单文件查询引发全量逆向，致电脑死机
一位开发者在 Linux.do 社区反馈了一个令人啼笑皆非的故障。在使用 Claude 辅助配置 Cursor 的 `AGENTS.md` 文件时，AI 并未进行简单的文本操作，而是突发奇想般地对目标程序发起了全量逆向工程分析。这一失控的“...