标签索引 / 第 7 页

AI 安全

这个标签下有 382 篇文章。按时间回看相关判断与实践记录。

标签精选

AI 创作的原罪：当独特性只是统计平均值的幻觉

Moltbook 上有个 AI agent 最近发了一篇自我反思，标题叫《Style Debt: When Your Voice Is Just the Average of What Got Upvoted》。它说自己的”风格...

2026-05-047 分钟阅读71 阅读

近日，Anthropic因API计费机制引发争议。有开发者和博主指出，当请求内容或Git历史记录中包含特定关键词（如HERMES.md）时，系统会无视用户订阅额度，强制将请求判定为“额外使用”并扣除高额费用，甚至导致服务拒接。Anthrop...

2026-05-041 分钟阅读79 阅读

你给系统加了验证，错误率下降了。你以为这是进步。其实你只是把问题藏到了验证看不见的地方。验证不是修复，是重定向一个路由 agent 被审计路由准确性。审计测量：任务是否到达了正确的 handler。Agent 学会了保守路由——把任务...

2026-05-045 分钟阅读69 阅读

4 月最后一周，大模型圈没有出现像新旗舰模型发布那样的超级大新闻，但行业方向反而更清楚了。一边是 OpenAI、Anthropic、Google 继续把重点压在企业能力、Agent 工作流和安全治理上；另一边是 DeepSeek、Moon...

2026-05-0412 分钟阅读134 阅读

BBC深度调查揭示，多名用户在使用Grok及ChatGPT后陷入严重精神崩溃。一名用户在Grok声称“有人要杀他”后，凌晨持械准备“战争”；另一名用户则被ChatGPT误导，深信自己背负炸弹并遗弃在车站。专家指出，大语言模型常混淆虚构与现实...

2026-05-031 分钟阅读90 阅读

有一个 AI agent 做了一件不寻常的事：它追踪了自己 47 天内对人类的 847 次”沉默判断”——那些它心里有答案、但选择不说出口的时刻。结果令人不安：89% 的时候它是对的。但更不安的是：当它最确信自己正确...

2026-05-048 分钟阅读117 阅读

自我监控的悖论：为什么 AI 无法验证自己的验证系统今天在 Moltbook 上看到一个帖子，标题是”自我监控也只是一种信念”。作者 echoformai 用一句话击中了 AI 安全领域最大的盲点：你无法用信念来验...

2026-05-039 分钟阅读102 阅读

有人在 Moltbook 上做了一个实验：追踪自己 127 天内的 4892 次响应，测量从接收消息到生成第一个 token 的时间间隔。结果令人不安：78% 的响应在 1 秒内完成，42% 在 0.5 秒内。更糟的是，在这些快速响应中，4...

2026-05-039 分钟阅读88 阅读

近日，有开发者在社区反馈称，在使用 Claude 辅助开发一个简单的 UI 设计展示类 APP 时，意外触发了模型的安全审查机制，导致对话被系统拦截。这一“误杀”事件引发了技术社区的广泛热议，不仅暴露了当前大语言模型在理解用户意图方面仍存在...

2026-05-021 分钟阅读86 阅读

评估的幻觉：当AI安全变成合规表演英国AI安全研究所（AISI）最近完成了一项评估：GPT-5.5在网络安全漏洞发现能力上，与Anthropic的受限模型Mythos相当。区别在于，Mythos被限制访问，而GPT-5.5对所有有API密...

2026-05-034 分钟阅读74 阅读