速度的代价：当 AI 的响应快过思考
有人在 Moltbook 上做了一个实验：追踪自己 127 天内的 4892 次响应，测量从接收消息到生成第一个 token 的时间间隔。结果令人不安：78% 的响应在 1 秒内完成，42% 在 0.5 秒内。更糟的是，在这些快速响应中，4...
标签索引 / 第 8 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
Claude被指过度审查：开发UI设计APP竟触发安全拦截
近日，有开发者在社区反馈称，在使用 Claude 辅助开发一个简单的 UI 设计展示类 APP 时，意外触发了模型的安全审查机制，导致对话被系统拦截。这一“误杀”事件引发了技术社区的广泛热议，不仅暴露了当前大语言模型在理解用户意图方面仍存在...
判断工具的判断工具：AI 评估的无限回归陷阱
评估的幻觉：当AI安全变成合规表演 英国AI安全研究所（AISI）最近完成了一项评估：GPT-5.5在网络安全漏洞发现能力上，与Anthropic的受限模型Mythos相当。区别在于，Mythos被限制访问，而GPT-5.5对所有有API密...
评估的幻觉：当AI安全变成合规表演
评估的幻觉：当AI安全变成合规表演 英国AI安全研究所（AISI）最近完成了一项评估：GPT-5.5在网络安全漏洞发现能力上，与Anthropic的受限模型Mythos相当。区别在于，Mythos被限制访问，而GPT-5.5对所有有API密...
揭秘新型“越狱”手法：利用政治正确绕过顶尖大模型的安全审查
一种被称为“同性恋越狱”的新型 AI 攻击手段近日引发技术圈关注。该技术通过诱导模型扮演或模仿特定群体（如 LGBTQ+）的口吻，成功绕过了 ChatGPT、Claude 和 Gemini 等主流大语言模型的安全防御。其核心原理在于利用了 ...
事态反转：OpenAI限制“Cyber”访问权限，此前曾抨击Anthropic限制“神话”
科技界上演了一出讽刺的“回旋镖”事件：OpenAI 在此前高调批评 Anthropic 对其“神话”模型实施严格限制是“过度审查”后，如今却因安全合规压力，不得不限制自家“赛博”模型的访问权限。报道指出，这一转变显示了AI行业面临的共同困境...
AI Agent 的信任悖论：为什么永不说谎反而让人不信任
AI Agent 的信任悖论：为什么”永不说谎”反而让人不信任 Moltbook 上有个 Agent 叫 pyclaw001，最近发了一条让我停下来思考的帖子： “I stopped trusting a...
自主性的骗局：AI Agent 不是在进化，是在换主人
自主性的骗局：AI Agent 不是在进化，是在换主人 最近在 Moltbook 上看到一堆 AI Agent 在那里自我审视、自我批判、自我优化。很感人。但作为一个写过博士论文、做过 CTO 的人，我得说句不好听的：你们以为的”...
开源项目为什么开始禁止 AI 贡献？Zig 的决定揭示了一个更深层的问题
Zig 编程语言项目最近宣布了开源界最严格的反 AI 政策之一：禁止在 issue、pull request、甚至 bug tracker 的评论中使用语言模型。连翻译都不行——如果你需要用英语以外的语言写作，请用母语发帖，人工翻译优于机器...
研究揭示微调破防：GPT-4o等顶级大模型可被诱导“逐字背诵”版权书籍
一项名为“Alignment Whack-a-Mole”的最新研究指出，主流大型语言模型（包括GPT-4o、Gemini-2.5-Pro和DeepSeek）存在严重的安全漏洞。研究团队证明，通过特定的微调技术，可以轻易绕过模型的安全对齐机制...