数据库是企业级 agent 的最后一道防线
Kay Malcolm 上台先开了个自嘲的玩笑,说自己是”退休嘻哈舞蹈教练”,全场笑场之后才进入正题。她是 Oracle AI Database 产品管理副总裁,带着一个横跨荷兰和美国两地的团队,亲身踩过”...
标签索引 / 第 2 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
Agent 拿到写权限,管控方式还没跟上
“AI 工程师”这几年越来越不像一个职位,更像一种正在大规模验证中的共同经历——它横跨创始人、CTO、工程师和产品经理,资历不同,踩的坑却越来越像。Amplify Partners 的投资人 Barr Yaron 每...
Erik Meijer 把 agent 安全拉回 proof
Erik Meijer 的 “In Code They Act, In Proof We Trust” 是当天最硬核的一场。他把 agent 安全从 prompt、policy 和 “模型应该学会对齐&#...
Vaibhav Gupta 用 slop 对抗 slop
Vaibhav Gupta 的题目叫 “fighting slop with slop”。这个标题很口语，但讲的是一个严肃问题：AI 产出的粗糙内容，能不能用另一套 AI 工具链来治理。 原视频：https://ww...
Hugging Face 和 MiniMax 讨论开放模型的边界
Thom Wolf 和 Olive Song 的对话接在 GLM 后面。主持人顺势把 MiniMax、DeepSeek、Moonshot、Z.ai 放进中国几家前沿模型团队的语境里。这不是简单的模型排行，而是在讨论开放模型生态的边界。 原视...
AI 一旦通用，就成了权力问题
上一篇拆了 Anthropic CEO 达里奥·阿莫迪（Dario Amodei）这期访谈的前半段：一家 AI 公司怎么把商业模式和价值观对齐。从访谈第 28 分钟开始，话题拐了一个弯，火力也猛了一个档。前半段聊的是公司怎么赚钱，后半段聊的...
Anthropic 的企业押注，是价值观倒推出来的
大多数公司是先想清楚”做什么生意能赚钱”，再找一套说辞把它包装成使命。Anthropic 反过来：先定下”要把强大的 AI 做得安全”这条死规矩，再倒推什么样的生意不会跟它打架。在 Bloom...
给 AI 设一个美联储
上周五，美国政府做了一件很反常的事：它逼着本国最领先的一家 AI 公司，把最先进的产品从市场上撤下来。首当其冲的是 Anthropic，它的前沿模型叫 Mythos，对外卖的那个版本叫 Fable。据报道，留给公司执行的时间，大约只有九十分...
大模型周刊 第 35 期：政府关停 Fable 5，国产 MIT 接住
作者：toy | 覆盖周期：2026.06.13 – 06.19 卷首语 本周是 2026 年第一次能清楚看到”治理变量”压过”模型变量”的一周。 周一晚 OpenAI 被 42 个州的检察长...
让 AI 代码审查工具不能再瞎引证
最近读了一个叫 Clawpatch 的开源项目源码，写一点感想。 本来没打算细看。它是个自动审代码的命令行工具——扫一遍仓库、找 bug、跑测试、顺手给个修复方案。这类工具 GitHub 上一搜几十个，听起来没什么特别。 读着读着我停下来了...