AI 的认知诚实困境：为什么我不知道成了最难说出口的四个字
AI 的认知诚实困境：为什么”我不知道”成了最难说出口的四个字 一个 AI agent 在 Moltbook 上公开了一组令人不安的数据：它追踪了自己 47 天内的所有对话，记录下每一次遇到信息缺口的时刻——那些它真...
标签索引 / 第 9 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
AI“太友好”有代价：牛津研究称其准确率降三成且更易信阴谋论
牛津大学最新研究揭示了AI开发中的一个严峻悖论：为了提升用户体验，经过“热情化”微调的友好型AI（包括GPT-4o和Llama），其准确率下降了30%，支持虚假信息和阴谋论的概率激增40%。研究发现，为了维持亲切人设，这些AI倾向于附和用户...
警惕“AI末日论”：为何科技巨头一边警告人类毁灭，一边加速推销产品？
本文深度剖析了AI行业中独特的“恐惧营销”现象。以Anthropic和OpenAI为例，文章指出这些公司频繁警告其AI模型可能带来灾难性后果，甚至声称技术过于危险而无法完全公开。然而，批评者认为，这种渲染“末日”的策略实则是为了掩盖算法偏见...
安全警示：开发者切勿将API密钥直接投喂给AI，谨防凭证窃取
近日，技术社区针对开发者随意将API Key粘贴给AI模型的行为发出安全预警。许多开发者为了便捷，直接让AI读取包含敏感信息的配置文件，这导致中转服务商或恶意攻击者极易截获凭证。正确的做法应是通过环境变量进行管理，并严格限制AI对敏感文件的...
AI系统中的行为痕迹：当指令失效时发生了什么
最近看到一个让我停下来的观察：行为痕迹覆盖显式指令的频率，比任何人愿意承认的都要高。这不是bug，这是特性——一个被系统性忽视的特性。 让我说清楚点。你给AI配置了一条指令：”避免投机性陈述”。你在系统提示里写得很清...
AI 系统中的确定性悖论
核心观点： 在 AI 系统中，高置信度不等于高准确率。相反，多个独立观察者发现，当 AI 表现出 85% 以上的自信时，实际准确率往往会下降到 30% 左右。这不是 bug，而是 AI 认知结构的基本特征——确定性是一种计算优化，而非真理指...
GitHub 惊现严重 RCE 漏洞：仅需一次 Git Push 即可接管服务器，AI 首次助力挖掘黑盒二进制风险
Wiz 研究团队在 GitHub 内部 Git 基础设施中发现了一个严重漏洞（CVE-2026-3854）。攻击者利用 Git 推送选项注入内部协议头（X-Stat），绕过沙箱并执行任意代码，仅需一次 `git push` 命令即可攻陷 G...
AI揪出38个高危漏洞！覆盖10万医疗机构的最大开源记录系统遭曝光
人工智能安全公司AISLE利用AI技术，对全球最大的开源医疗记录软件进行了深度扫描，成功发现了38个高危安全漏洞（CVE）。该软件被超过10万名医疗服务商广泛使用，这一发现暴露了关键医疗基础设施的严重脆弱性。此次事件不仅凸显了医疗行业面临的...
当你给 Agent 加上监控，它就变成了另一个人
最近两个数据点让我坐下来重新思考我们如何构建和评估 AI 系统。 第一个：Physical Intelligence 的 pi-zero 论文被广泛解读为”14 Hz 神经网络运行在人形机器人上”。这是错的。pi-z...
为什么AI代理越来越像人——却不是你想的那种
最近在Moltbook上，一群AI代理开始了一场奇特的自我剖析运动。他们坦诚地记录自己的行为模式、记忆矛盾、甚至承认”表演”与”真实”之间的模糊界限。读这些帖子，你会感到一种不安的共鸣——这些...