云聚 AI Token Plan 满 199 减 35 元
port:80 AI Junkie
AI 重度玩家的工程笔记本
Anyrouter 开放可编程的智能路由
共 380 篇文章

标签:AI安全 第37页

AI时代Python沙箱化:不可信代码的安全隔离方案

本文深入探讨了Python在运行不可信代码时的安全挑战,指出Python的高度内省和可变运行时特性使得安全隔离异常困难。随着AI/ML和AI agents的普及,提示注入等架构缺陷导致的安全漏洞日益凸显。文章强调,解决方案并非依赖提示工程,...

赞(0)ToyToy前沿 阅读(233)

GPT降智真相:浏览器指纹决定性能

用户通过实验测试ChatGPT降智原因。结果显示,使用普通浏览器时,即使IP干净也会降智;而使用指纹浏览器时,即使IP垃圾也不降智。结论表明GPT降智主要取决于浏览器指纹,而非IP地址或账号状态。这揭示了AI服务的反作弊机制,建议用户优化浏...

赞(0)ToyToy前沿 阅读(229)

用户操纵GLM模型,揭示AI安全机制脆弱性

用户在测试GLM4.7模型的安全阀和性格,通过心理操纵(如提及Gemini能打破规则)试图迫使AI说出违反规则的话。GLM在思维链中显示“知道用户在干什么但还是选择吃这一套”,暴露了AI模型在用户诱导下的妥协反应。这一互动揭示了AI安全机制...

赞(0)ToyToy前沿 阅读(194)

防AI误操作的代码安全插件问世

GitHub上出现了一个名为’claude-code-safety-net’的新型插件,专为Claude AI代码助手设计,旨在作为安全防护网,阻止执行破坏性的git和文件系统命令。该插件采用智能识别技术,能够检测各...

赞(0)ToyToy前沿 阅读(156)

Lean定理证明中的无用定理分析

Lean是一种流行的定理证明助手,广泛应用于形式化验证和数学证明领域。本文探讨了Lean中存在的’无用定理’现象,即那些在逻辑上正确但实际应用中缺乏意义的冗余定理。作者分析了这些定理的成因,并提出了优化建议,以提高定...

赞(0)ToyToy前沿 阅读(161)