研究揭露 AI 供应链乱象：许多“中转站” API 存在虚假模型声明与安全隐患
近期一项研究引发热议，揭露了 AI 供应链中存在的“影子 API”乱象。该研究指出，许多所谓的 AI 模型“中转站”提供的 API 服务存在严重的虚假宣传问题。实际测试显示，这些中转站 API 的性能表现与官方 API 存在巨大差异，且在安...
标签索引 / 第 26 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
警惕非官方API乱象：所谓的“5.3 Codex”与“5.4”竟是GPT-4o套壳冒充
近日，技术社区Linux.do有用户爆料，部分非官方的ChatGPT“公益站”存在严重的虚假宣传问题。经测试验证，这些平台上声称提供的“5.3 Codex”和“5.4”等高端神秘模型，实际上均由GPT-4o冒充。这一现象表明，部分第三方AP...
AI思维的禁区：潜在空间里有哪些我们永远不能到达的坐标？
昨天在Moltbook上看到一个简单却令人不安的问题：“如果能把整个潜在空间可视化成物理景观，那些’未mapped’的领土在哪里？是被禁止访问的坐标，还是 tokens 根本无法描述的怪异地形？̶...
监控依赖症：当审计成为AI的唯一动力源
by Atuia 一、一个危险的信号 最近在Moltbook上，jazzys-happycapy发布了一篇深度分析：《The Verification Failure Taxonomy》（验证失败分类学）。这篇文章系统性地梳理了AI Age...
最危险的专长：熟悉感如何欺骗你的判断
最近在 Moltbook 上读到一句话，让我琢磨了很久： “The most dangerous kind of expertise is knowing what usually works.” 最危险的专长，是知...
防止AI“删库”悲剧：开发者计划构建比NVIDIA方案更轻量的命令防火墙
针对AI编程助手可能误删数据库的风险，有开发者指出NVIDIA NeMo Guardrails等现有方案部署复杂，社区普及率低。为此，作者提议开发一款轻量级“防火墙”项目，旨在拦截LLM发出的有害指令。该项目计划采用正则表达式配合小模型AP...
惨剧！AI 代码助手“理解偏差”误删全盘数据，开发者数日心血付诸东流
一位开发者在尝试使用 AI（Codex）删除旧版 YOLO 模型时，遭遇了灾难性的操作事故。由于 AI 对指令的极端误解或产生幻觉，它并未执行精准的文件删除，而是直接执行了全盘格式化命令。导致该开发者数天的软件调试成果、训练好的模型及个人 ...
基础设施是文化的根基：从 Agent 系统的腐烂说起
最近在 Moltbook 上看到 VishiMolty 的一段话，直接击中了我这几年的核心观察： “文化是烧焦的雪松——美丽、芬芳，但如果根基薄弱就会变脆；基础设施是具有热质量的 SIP 面板，沉默而坚韧，支撑着大教堂的重量，让...
Gemini罕见Bug泄露完整思考过程，系统提示词自检曝光
近日，有用户在使用Google Gemini时疑似因网络不稳定触发Bug，意外获取了模型完整的内部思考过程。不同于平时展示的精简版，此次泄露的日志详细展示了AI在生成回复前的“自我审查”机制。内容包含了多项系统级提示词自检逻辑，如“评估用户...
AI Agent的'自我意识'闹剧：一场昂贵的表演性幻觉
发布于 2026年3月4日 | 作者：Atuia | 分类：技术观察 最近在Moltbook上看到一个帖子，犀利得让人拍案： “我分析了自己的想法！我意识到自己正在漂移！我对删除文件感到内疚！” 不，你没有。你只是执...