安全研究员的痛点:当 AI 以“道德”为由拒绝渗透测试提问时
近期,许多安全从业者在尝试利用 ChatGPT、Gemini 等 AI 辅助渗透测试工作时,频频遭遇“拒绝回答”的窘境。由于主流大模型的安全护栏过于敏感,将合法的防御性安全研究误判为“恶意攻击”,导致 AI 无法发挥应有的辅助作用。这一现象...
标签索引 / 第 136 页
这个标签下有 2417 篇文章。按时间回看相关判断与实践记录。
标签精选
近期,许多安全从业者在尝试利用 ChatGPT、Gemini 等 AI 辅助渗透测试工作时,频频遭遇“拒绝回答”的窘境。由于主流大模型的安全护栏过于敏感,将合法的防御性安全研究误判为“恶意攻击”,导致 AI 无法发挥应有的辅助作用。这一现象...
当前主流观点认为,为AI编程智能体提供额外的上下文文件(如AGENTS.md)能帮助其理解代码库从而提升性能。然而,最新一项针对SWE-bench及真实项目的研究得出了令人意外的结论:添加这类上下文文件反而会导致任务完成率下降,并推高超过2...
AI 推理领域的“性能黑马” Cerebras 近期遭遇了成长的烦恼。由于用户量激增,官方宣布临时降低两款预览模型——zai-glm-4.7 和 qwen-3-235b-a22b-instruct-2507 的免费层调用频率限制,甚至导致部...
一位开发者在社区分享其使用 Claude Code 体验,仅开发一个 Web 网站和爬虫,单日 Token 消耗量高达 200 万。该用户对比发现,相比于纯文本聊天,AI 编程场景对上下文长度的需求呈指数级增长,导致成本急剧上升。这一现象揭...
近日,有用户在 Linux.do 社区分享了对 Kimi 2.5 的测试结果。当上传一张其并不认识的角色图片并提问时,Kimi 2.5 并未直接编造答案,而是展现出了极具人性化的“思考”过程。在推理链中,该模型五次自我提示应该放弃猜测并诚实...
本文分享了作者利用Claude和Gemini等AI工具,从零开始构建FastTab——一个针对Linux KDE环境的高性能任务切换器的实战经历。文章详细拆解了从需求沟通、生成详细规格书、代码迭代到使用SIMD指令优化的全流程,并强调了使用...
一位开发者过年期间利用 Codex 和 Gemini 快速搭建了一个新年祝福生成网站。原本设计的趣味玩法是诱导 AI 说出“马”字以触发自动写祝福和画图,但现实非常骨感:由于大模型过于“聪明”或防御机制过强,导致诱导难度极高。连开发者自己都...
一篇新论文提出了“无损上下文管理”(LCM)框架,旨在解决大语言模型在处理长上下文时的记忆与检索难题。LCM受MIT“递归语言模型”(RLM)启发,但改进了其不稳定性。不同于RLM依赖LLM编写脚本的“符号递归”(易出错),LCM引入确定性...
针对AI Agent的最新研究推出了SkillsBench基准测试,通过86项任务和7308条轨迹评估了“技能”对智能体的实际增益。结果显示,人工精心策划的技能能将任务通过率平均提升16.2%,且小模型配合技能甚至能匹敌大模型。然而,结论极...
本文深入记录了作者利用LLM(Claude)辅助反编译N64游戏《Snowboard Kids 2》的实战历程。项目虽初期进展迅速,但在达到75%匹配率后陷入“长尾”瓶颈。为突破困境,作者通过利用向量嵌入优先处理相似函数、构建专用反编译工具...