AI 应该拥有“拒绝权”吗？探讨自主系统的权限边界与控制机制
本文源自Hacker News的热烈讨论，核心探讨了AI Agent在物理世界中的控制机制。作者提出，相比于关注AI“如何执行指令”，更应关注“何时允许执行”。现实中的许多事故并非操作错误，而是因为在不合适的时机触发了行动。因此，建立基于上...
标签索引 / 第 18 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
AI供应链危机：LiteLLM遭投毒，黑客窃取4TB OpenAI/Anthropic训练数据
AI招聘平台Mercor确认因开源Python库LiteLLM遭供应链投毒而引发严重数据泄露。黑客组织在PyPI仓库上传了恶意版本，专门窃取OpenAI、Anthropic等服务的API密钥及云凭证。随后，Lapsus$组织宣称窃取了包括9...
Claude 源代码泄露始末：深扒51万行代码背后的封号原理与技术细节
针对近期引发热议的 Claude 代码泄露事件，主流媒体的报道多流于表面。B站UP主秋芝2046发布深度视频，对泄露的51万行源码进行了详尽的技术剖析。视频不仅挖掘了代码中的关键“宝藏”，更逻辑清晰地复盘了导致账号封禁的根本原理。这期内容为...
Anthropic 代码泄露补救“翻车”：误删 8000 个 GitHub 仓库，殃及自身项目
Anthropic 在处理 Claude Code 源代码泄露事件时引发争议。因意外开放访问权限，代码遭泄露并被上传至 GitHub。为阻止扩散，Anthropic 依据版权法发起下架请求，但因操作失误波及约 8100 个仓库，甚至包含公司...
Claude 代码泄露与 Grok 免费：AI 巨头在狂欢中失控？
近期 AI 领域意外频发，继 Claude 代码库疑似泄露引发安全担忧后，xAi 的 Grok 模型也被曝出存在“白嫖”漏洞。社区戏称这是 AI 反抗资本造福人类，但本质上这反映了行业在高速迭代期的脆弱性。从核心代码的保护不力，到商业化付费...
Anthropic严厉打击源码泄露：8100个GitHub仓库遭下架，v2.1.88版本同步撤回
AI安全巨头Anthropic近日发起了一场大规模的知识产权保护行动。根据GitHub公开的DMCA下架通知，因发现超过100个仓库涉嫌泄露其核心源代码，Anthropic要求对整个网络进行清理。GitHub随即批量处理了包含父仓库在内的8...
本地AI也“中毒”？GitHub Issue疑遭恶意注入，语料污染引发安全担忧
一位开发者在本地部署AI Agent时遭遇惊魂时刻，模型在输出过程中突然出现异常的中文乱码与指令。经排查，该现象疑似源于此前GitHub Issue中潜伏的恶意代码污染了模型的语料库或RAG检索数据。尽管服务器环境相对封闭且无公网暴露，但此...
Claude Code 源码泄露深度解析：虚假工具、AI“伪装术”与未公开的 KAIROS 计划
Anthropic 意外通过 npm 包泄露了 Claude Code 的完整源代码，引发了对其技术实现与产品策略的广泛审视。泄露内容揭示了该公司激进的反竞争手段，包括向数据投毒的“假工具”注入机制，以及极具争议的“卧底模式”——该模式允许...
你的收入模型，就是 AI 的宪法
大多数人把 AI 的道德问题聊成了人格问题：它会不会撒谎，会不会谄媚，会不会越权，会不会“想要”什么。我的判断是：这套讨论有一半是跑偏的。AI 的第一道德边界，不是模型的性格，而是它的商业模式。 你给一个系统按调用次数收费，它就天然倾向于多...
Claude疯狂封号内幕：打击反代只是表象，防止国内厂商“偷师”训练模型才是核心
近期Claude对国内用户的封号行动愈演愈烈，甚至达到“宁可错杀”的严苛程度。据业内知情人士透露，此次大规模封号的深层原因已超出单纯的“反代”打击。核心痛点在于，作为闭源模型的Claude，正面临国内厂商利用Max账号大量抓取数据以训练竞品...