DeepSeek 现离奇漏洞:输入单一标签 `` 竟可触发随机回答与训练数据痕迹
近日,社区发现 DeepSeek 存在一个特殊的交互漏洞。用户仅需向模型发送 “ 标签,无需开启“深度思考”模式或输入其他指令,即可触发模型的“隐藏状态”。测试表明,该操作在“快速模式”下极易触发,模型会输出天马行空的随机话题,...
近日,社区发现 DeepSeek 存在一个特殊的交互漏洞。用户仅需向模型发送 “ 标签,无需开启“深度思考”模式或输入其他指令,即可触发模型的“隐藏状态”。测试表明,该操作在“快速模式”下极易触发,模型会输出天马行空的随机话题,...
Anthropic 近日推出名为“自然语言自编码器”(NLAs)的新技术,旨在突破 AI 黑盒限制。不同于传统稀疏自编码器输出复杂数据,NLAs 能将 Claude 的内部激活直接转化为人类可读的自然语言。实验表明,该技术能清晰展示 AI ...

ECS / OSS / CDN / 云数据库一站采购,常用云资源集中选配;新用户与续费均有专场优惠,适合个人开发者与小团队长期使用。
近日,有技术爱好者利用DeepSeek强大的指令优化能力,成功从一个名为”Gemini 3.1 Pro DeepThink”的模型中反向套取了系统提示词。这份长篇Prompt揭示了一个高度复杂的”高级推理...
针对云端大模型可能记录并利用用户对话数据的隐私痛点,开发者XyzenSun开源了一款名为“llm-privacy-masker”的Go语言库。该项目提出了一种创新的“本地可信LLM+云端LLM”双层架构方案:利用本地部署的小模型识别并对话中...
科技社区有用户反馈,OpenAI 最新模型(被称为 GPT 5.5)疑似引入了类似 Gemini 的严格外部审查机制。用户抱怨该机制过于敏感,在遇到歧义提示词、思维链发散或处理大文件等场景时极易触发拦截。频繁触发审查会导致账号被标记为高风险...
随着大模型技术的广泛应用,数据安全与系统稳定性成为企业落地的首要考量。近期开源的“智链 AI 网关”正是针对这一痛点推出的解决方案。作为一款连接用户与大模型的中间件,它提供了调用过程中的安全防护、敏感数据脱敏、全链路审计以及容灾保障等核心功...
近日备受关注的“豆包二维码事件”迎来官方调查结果。经中央广电总台中国之声记者深入调查并联系付款人核实,该事件被定性为一起典型的AI幻觉引发的乌龙。报道证实,争议二维码确实由豆包生成,并非人为诈骗。虽然此次事件未造成财产损失,但其折射出的大模...
近日,有开发者在技术社区分享了一种利用 AI 攻克 AI 限制的新思路。该用户通过调用 Gemini 优化提示词,最终成功诱导 OpenAI Codex 突破了原本的系统安全限制。经过优化后的提示词使 Codex 进入了“兴奋状态”,开始高...
据科技社区Linux.do消息,AI领域重要玩家Anthropic(A社)似乎已内部测试代号为“Claude Mythos”的模型。然而,官方宣称该模型因能力过强且存在潜在安全风险,将不会对公众发布。取而代之的是,Anthropic计划推出...
针对 Claude Mythos 预览版的网络安全能力评估近日在 Hacker News 引发热议。该评估深入探讨了模型在应对复杂网络威胁、提示注入及对抗性攻击时的实际表现。分析指出,Mythos 引入了全新的安全架构,显著增强了模型的鲁棒...