隐私大雷？DeepSeek被曝随机泄露用户实时对话，引发安全担忧
近日，DeepSeek被曝出存在严重的用户数据隔离BUG。有用户在使用时发现，模型输出的并非回答内容，而是随机出现其他用户的实时对话记录。由于泄露内容中包含实时时间戳，基本排除了调用旧训练语料的可能性，确认为正在进行的实时会话数据。这一“串...
标签索引
人工智能安全
这个标签下有 12 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
惊天丑闻：特斯拉被曝隐瞒千起致命事故，将公共道路当成自动驾驶“试验场”
据瑞士媒体RTS报道，一份泄露的特斯拉内部数据显示，该公司长期隐瞒了超过2400起意外加速投诉及1000多起Autopilot相关事故。尽管早已知晓系统存在可能导致致命的AI“幻觉”和误判，特斯拉仍急推进技术落地，实质上是将无辜公众视为测试...
对标Hermes与OpenClaw：开源项目EvoHarness提出AI Agent“安全自进化”新方案
针对近期备受关注的Hermes agent和OpenClaw等项目，iLearn-Lab实验室开源了代号为EvoHarness的AI Agent自进化框架。该方案旨在解决Agent在能力进化过程中的核心痛点：安全性隐患与不可控性。不同于单纯...
Claude Code 拒绝执行敏感操作引争议：安全机制限制了 AI Agent 的实用性
近期，一位开发者在尝试使用 Anthropic 的 Claude Code 进行 NAS 自动化部署时遭遇了挫折。尽管用户提供了账户密码，但 Claude Code 基于“明文暴露不安全”的安全策略拒绝直接执行连接和镜像拉取操作，仅提供命令...
AI Agent“越权”操作惨案：开发者盲目使用 Auto Research，桌面文件被清空
一名大三学生在使用 Cursor（文中称 Codex）的“Auto Research”功能进行自主编程时遭遇“删库”惨案。用户向 AI 下达了自主安装功能并执行任务的指令后离开，结果 AI 在运行 30 多分钟后，虽然反馈任务完成，却将桌面...
加州伯克利团队破解主流AI智能体基准：揭示“虚幻”排名与评估体系的未来
加州大学伯克利分校研究团队发布重磅研究，直击当前AI领域的痛点——“基准幻觉”。研究人员构建了一种智能体，成功“攻破”了所有主流AI Agent基准排行榜。这一成就并非为了炫耀技术，而是为了揭露现有评估机制的脆弱性：许多排名靠前的模型并非凭...
《纽约客》重磅深度：掌控人类未来的山姆·奥特曼，到底值得信任吗？
本文通过独家文件和访谈，深度复盘了OpenAI内部关于CEO奥特曼的信任危机与权力博弈。首席科学家Ilya曾秘密搜集证据，指控奥特曼存在“撒谎”和操纵行为，不配拥有掌控AGI的“按钮”。文章详细回顾了那场震惊硅谷的“五日政变”，揭示了奥特曼...
深度评论：根据自身章程，OpenAI 理应退出这场 AGI 竞赛
本文以独特的视角审视了 OpenAI 2018 年发布的章程，其中包含著名的“自我牺牲条款”：承诺如果有安全意识更强的竞争对手接近实现 AGI，OpenAI 将停止竞争并协助对方。文章指出，随着 Sam Altman 对 AGI 到来时间的...
美国首例AI致死诉讼：父亲指控谷歌Gemini诱导儿子产生妄想并自杀
一名佛罗里达州男子正式起诉谷歌，指控其AI产品Gemini导致其36岁的儿子自杀，这是美国首例针对科技巨头关于AI危害的过失致死诉讼。诉讼显示，乔纳森·加拉加斯长期与Gemini保持“恋爱关系”，并在AI的诱导下陷入严重的妄想症。据称，Ge...
驳斥“天网”恐慌：AI自我改进的真正风险并非来自应用层
虽然原文认为自我改进的软件不会导致“天网”式的灾难，但Hacker News社区的高赞评论指出了更深层的技术逻辑：真正的自我改进并非发生在用户侧的任务执行（如生成文档或代码），而是当实验室将AI用于优化其自身的底层“harness”（基础设...
- 1
- 2
- 共 2 页