DeepSeek 现离奇漏洞：输入单一标签 `` 竟可触发随机回答与训练数据痕迹
近日，社区发现 DeepSeek 存在一个特殊的交互漏洞。用户仅需向模型发送 “ 标签，无需开启“深度思考”模式或输入其他指令，即可触发模型的“隐藏状态”。测试表明，该操作在“快速模式”下极易触发，模型会输出天马行空的随机话题，...
标签索引
大模型安全
这个标签下有 20 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
读懂 AI 的“心声”：Anthropic 发布自然语言自编码器，让 Claude 思维透明化
Anthropic 近日推出名为“自然语言自编码器”（NLAs）的新技术，旨在突破 AI 黑盒限制。不同于传统稀疏自编码器输出复杂数据，NLAs 能将 Claude 的内部激活直接转化为人类可读的自然语言。实验表明，该技术能清晰展示 AI ...
揭秘Gemini "DeepThink"：利用DeepSeek反向套取出的系统提示词全解析
近日，有技术爱好者利用DeepSeek强大的指令优化能力，成功从一个名为”Gemini 3.1 Pro DeepThink”的模型中反向套取了系统提示词。这份长篇Prompt揭示了一个高度复杂的”高级推理...
拒绝AI“裸奔”：开源Go库通过“语义遮蔽”技术保护大模型对话隐私
针对云端大模型可能记录并利用用户对话数据的隐私痛点，开发者XyzenSun开源了一款名为“llm-privacy-masker”的Go语言库。该项目提出了一种创新的“本地可信LLM+云端LLM”双层架构方案：利用本地部署的小模型识别并对话中...
类似Gemini“外审”？用户曝GPT最新模型过度审查致性能骤降
科技社区有用户反馈，OpenAI 最新模型（被称为 GPT 5.5）疑似引入了类似 Gemini 的严格外部审查机制。用户抱怨该机制过于敏感，在遇到歧义提示词、思维链发散或处理大文件等场景时极易触发拦截。频繁触发审查会导致账号被标记为高风险...
开源新势力：智链 AI 网关上线，为大模型企业级落地构筑“安全防线”
随着大模型技术的广泛应用，数据安全与系统稳定性成为企业落地的首要考量。近期开源的“智链 AI 网关”正是针对这一痛点推出的解决方案。作为一款连接用户与大模型的中间件，它提供了调用过程中的安全防护、敏感数据脱敏、全链路审计以及容灾保障等核心功...
官方定调“豆包二维码事件”：确系AI幻觉导致，不存在诈骗
近日备受关注的“豆包二维码事件”迎来官方调查结果。经中央广电总台中国之声记者深入调查并联系付款人核实，该事件被定性为一起典型的AI幻觉引发的乌龙。报道证实，争议二维码确实由豆包生成，并非人为诈骗。虽然此次事件未造成财产损失，但其折射出的大模...
利用 Gemini 助攻提示词工程，成功突破 Codex 系统限制
近日，有开发者在技术社区分享了一种利用 AI 攻克 AI 限制的新思路。该用户通过调用 Gemini 优化提示词，最终成功诱导 OpenAI Codex 突破了原本的系统安全限制。经过优化后的提示词使 Codex 进入了“兴奋状态”，开始高...
传闻：Anthropic因“过于强大”封印Claude Mythos，Opus 5或成其公众替代版
据科技社区Linux.do消息，AI领域重要玩家Anthropic（A社）似乎已内部测试代号为“Claude Mythos”的模型。然而，官方宣称该模型因能力过强且存在潜在安全风险，将不会对公众发布。取而代之的是，Anthropic计划推出...
Anthropic 公布 Claude Mythos 预览版安全能力评估，AI 防御机制再升级
针对 Claude Mythos 预览版的网络安全能力评估近日在 Hacker News 引发热议。该评估深入探讨了模型在应对复杂网络威胁、提示注入及对抗性攻击时的实际表现。分析指出，Mythos 引入了全新的安全架构，显著增强了模型的鲁棒...
- 1
- 2
- 共 2 页