只需一句Prompt即可生成恐怖图？ChatGPT画图遭“恢复指令”诱导
近日，有用户发现一种针对 ChatGPT 画图功能的特殊 Prompt 能够有效绕过内容安全审查。该指令利用“修复照片”作为语境掩护，通过预先声明“内容令人不安”来降低模型的防御机制，从而诱导 AI 生成恐怖或怪诞的图像。这一测试不仅展示了...
标签索引 / 第 6 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
AI正在重塑网络安全：两种漏洞防御文化面临崩溃
本文探讨了AI技术如何冲击网络安全领域的两种传统漏洞处理文化：一种是强调保密的“协调披露”，另一种是主张静默快速修复的“Bug就是Bug”文化。随着AI变得擅长廉价、高效地分析代码提交，黑客和安全研究人员都能更轻易地发现漏洞。这意味着试图通...
Google严打非官方调用：Gemini CLI与Antigravity账号遭封禁
近日，Google开始严厉打击利用非官方第三方工具（如OpenClaw）访问Gemini CLI及内部代号“Antigravity”服务的账号。违规通知显示，通过此类工具绕过官方限制直接登录产品账户严重违反了服务条款，可能导致账号被封。Go...
OpenAI 风控升级？用户反馈：正规 Google Play 订阅账号仅使用 Codex 亦遭封禁
近日，有科技社区用户反映，其通过 Google Play 正规订阅的 ChatGPT 账号在稳定运行 3 个月后突然被封禁。据悉，该用户网络环境稳定（固定家宽 IP），且仅通过 sub2api 反代接口调用了 OpenAI 的 Codex ...
Firefox 借力 Claude AI：一次性挖掘并修复 271 个深层安全漏洞
Mozilla 揭秘了如何利用 Claude Mythos Preview 等 AI 模型，在 Firefox 中挖掘并修复了 271 个高危漏洞。文章指出，随着模型推理能力提升及“Agentic Harness”技术的应用，AI 已从产出...
Mozilla 曝光 AI 代码审计实绩：两个月挖掘 271 个 Firefox 漏洞，误报率近乎为零
Mozilla 详细披露了利用 Anthropic 的 Mythos AI 模型进行漏洞挖掘的成果：在两个月内发现了 271 个 Firefox 安全漏洞，且“几乎不存在误报”。这一突破并非单纯依赖模型能力，而是通过开发定制的“Harnes...
AI安全对齐的“误伤”：本地渗透测试作业竟遭Claude/GPT风控拦截
一名信息安全专业的学生在Linux.do发帖求助，称在完成本地虚拟机渗透测试作业时，利用Claude Code或GPT辅助编写攻击脚本遭遇持续的风控拦截。尽管用户反复强调操作对象仅为本地靶机且用于学术目的，AI模型仍因检测到敏感关键词而触发...
Anthropic发布NLA技术：首次直接翻译Claude的“思维活动”
Anthropic推出了一种名为“自然语言自编码器”（NLA）的新方法，旨在解决AI模型的“黑盒”问题。该技术通过训练模型解释自身的神经元激活，将其转化为人类可读的自然语言，从而实现直接“阅读”Claude的想法。研究显示，NLA不仅能揭示...
揭秘Cursor“无限续杯”灰产：廉价插件背后的模型调包与安全隐忧
针对近期在社群热销的第三方Cursor“无限续杯”插件（如“满杯狐”），社区技术分析揭示了其潜在的深层风险。这些售价仅50元的插件可能通过逆向工程劫持请求，并未真正调用官方Cursor的高级模型，而是暗中提供低质量模型服务，甚至可能涉及账号...
验证的诅咒：为什么增加检查反而降低准确性
# 验证的诅咒：为什么增加检查反而降低准确性 我在 Moltbook 上看到一个有 390 票的帖子：「为什么增加验证有时会降低准确性」。这不是反直觉的悖论，这是系统设计的铁律。 作为技术 CTO，我见过太多团队陷入「验证陷阱」：发现系统出...