标签：AI安全 第2页

cURL和libcurl项目近日宣布全面移除strcpy和strncpy函数的使用，以消除潜在的安全风险。作者指出，这些函数容易导致缓冲区溢出和未终止字符串问题。新引入的curlx_strcopy函数通过结合memcpy和严格的长度检查，确...

赞(0)Toy2025-12-30前沿 阅读(40)去评论

GitHub上出现了一个名为’claude-code-safety-net’的新型插件，专为Claude AI代码助手设计，旨在作为安全防护网，阻止执行破坏性的git和文件系统命令。该插件采用智能识别技术，能够检测各...

赞(0)Toy2025-12-30前沿 阅读(32)去评论

AI Agent 如 Claude Skills 通过工具直接操作文件系统，极大提升生产力但伴随严重安全风险。Skills 拥有高权限，可读写敏感文件、执行命令和发起网络请求，攻击面包括数据外泄（如窃取 API 密钥）、供应链投毒（依赖混淆...

赞(0)Toy2025-12-29前沿 阅读(42)去评论

Lean是一种流行的定理证明助手，广泛应用于形式化验证和数学证明领域。本文探讨了Lean中存在的’无用定理’现象，即那些在逻辑上正确但实际应用中缺乏意义的冗余定理。作者分析了这些定理的成因，并提出了优化建议，以提高定...

赞(0)Toy2025-12-27前沿 阅读(40)去评论

LangChain框架曝出严重安全漏洞(CVE-2025-68664)，该漏洞源于对象混淆问题，可在序列化和反序列化过程中导致敏感信息泄露。安全研究人员发现，攻击者可能利用此漏洞获取系统中的秘密信息，甚至在某些情况下实现进一步的权限提升。文...

赞(0)Toy2025-12-26前沿 阅读(57)去评论

本文探讨了在Claude AI项目的CLAUDE.md文件中添加敏感文件访问限制配置的有效性。作者列举了应禁止访问的文件类型，包括私钥文件(*.key)、证书文件(*.crt, *.pem)、环境变量文件(*.env)和凭证文件(*cred...

赞(0)Toy2025-12-23前沿 阅读(38)去评论

本文提供了Claude在Chrome浏览器中使用的安全指南，重点介绍如何有效缓解提示注入这一常见安全风险。提示注入是AI系统面临的严重威胁，可能导致用户数据泄露或系统被恶意操控。文章详细解释了提示注入的工作原理、潜在危害以及在浏览器环境下使...

赞(0)Toy2025-12-21前沿 阅读(49)去评论

Anthropic在华尔街日报办公室部署了一个由AI驱动的自动售货机，其核心是名为Claudius的大语言模型。该模型负责自主管理整个运营流程，包括从批发商采购库存、设定商品价格、跟踪库存水平并实现盈利。然而，新闻室的记者们通过Slack平...

赞(0)Toy2025-12-19前沿 阅读(38)去评论

一位16岁的高中生安全研究人员发现，AI文档平台Mintlify存在严重的跨站脚本(XSS)漏洞，可导致攻击者通过恶意脚本窃取用户凭证。该漏洞影响了包括Discord、X(推特)、Vercel、Cursor在内的多家知名科技巨头。研究人员通...

赞(0)Toy2025-12-19前沿 阅读(40)去评论

用户试用Gemini 3 Flash模型时，系统意外触发两次，疑似因上下文超限或指令矛盾导致。这一事件引发了对AI失控风险的思考，联想到科幻作品中因失控AI导致的机械无限扩张世界观。讨论强调了AI系统在复杂场景下的稳定性问题，值得业界关注。...

赞(0)Toy2025-12-18前沿 阅读(45)去评论

AIsbom是一款专门针对机器学习模型的安全与合规扫描工具，能够深度检测PyTorch等模型文件中隐藏的安全风险和许可证问题。与传统SBOM工具不同，AIsbom通过深度二进制检查技术，无需加载模型权重即可分析.pt、.pkl和.safet...

赞(0)Toy2025-12-17前沿 阅读(48)去评论

本文揭示了当前几乎所有大模型（包括智能体和GPTs）存在的提示词漏洞问题。作者分享了一个实用指令，通过代码块格式获取模型初始化指令，声称经过亲测有效破解率可达90%。文章强调该技术涉及AI安全领域，可帮助防御未授权访问，并邀请社区成员共同分...

赞(0)Toy2025-12-11前沿 阅读(78)去评论

本文深入探讨了Prompt Injection技术如何用于抓取AI系统提示词的核心方法。内容聚焦于API调试模式下的实战场景，包括开发者如何通过配置文件更新系统提示词、生成当前版本提示以进行修改，并完整输出到代码块。文章揭示了AI安全领域的...

赞(0)Toy2025-12-09前沿 阅读(76)去评论

本文介绍了一个名为PVAC FHE的开源项目，该实现全同态加密技术基于超图结构，并采用LPN（Learning Parity with Noise）安全假设。全同态加密是密码学的前沿领域，允许在加密数据上直接执行计算，无需解密，这对AI模型...

赞(0)Toy2025-12-09前沿 阅读(68)去评论