Brendan Rappazzo 把道德写成法律,再用对抗 Agent 找漏洞
当天主舞台大多数分享讲的都是怎么让 agent 更好地写代码、调用工具、管住上下文。轮到 Brendan Rappazzo,话题忽然从代码对不对,跳到了一个更难缠的问题:道德对不对。他带来的项目叫 Loophole。做法是把你的道德原则翻译...
标签索引 / 第 2 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
PostHog 给能执行 Bash 的 Agent 配了一个专职保镖
PostHog 有个叫 wizard 的命令行工具,能读你的代码库、装 SDK、埋点、建仪表盘。团队一度想把它变成安装 PostHog 的默认方式。做这件事的 context engineer Sarah Sanders 说,野心刚冒头,她...
给能干活的 Agent 造一个生产环境的笼子
AI Engineer World’s Fair 2026 的 Harness Engineering 专场排了一整个上午,从九点排到中午,一共五场。几乎都在回答同一个问题:怎么让 agent 在没人盯着的时候还靠谱。压轴的这场...
数据库是企业级 agent 的最后一道防线
Kay Malcolm 上台先开了个自嘲的玩笑,说自己是”退休嘻哈舞蹈教练”,全场笑场之后才进入正题。她是 Oracle AI Database 产品管理副总裁,带着一个横跨荷兰和美国两地的团队,亲身踩过”...
Agent 拿到写权限,管控方式还没跟上
“AI 工程师”这几年越来越不像一个职位,更像一种正在大规模验证中的共同经历——它横跨创始人、CTO、工程师和产品经理,资历不同,踩的坑却越来越像。Amplify Partners 的投资人 Barr Yaron 每...
Erik Meijer 把 agent 安全拉回 proof
Erik Meijer 的 “In Code They Act, In Proof We Trust” 是当天最硬核的一场。他把 agent 安全从 prompt、policy 和 “模型应该学会对齐&#...
Vaibhav Gupta 用 slop 对抗 slop
Vaibhav Gupta 的题目叫 “fighting slop with slop”。这个标题很口语，但讲的是一个严肃问题：AI 产出的粗糙内容，能不能用另一套 AI 工具链来治理。 原视频：https://ww...
Hugging Face 和 MiniMax 讨论开放模型的边界
Thom Wolf 和 Olive Song 的对话接在 GLM 后面。主持人顺势把 MiniMax、DeepSeek、Moonshot、Z.ai 放进中国几家前沿模型团队的语境里。这不是简单的模型排行，而是在讨论开放模型生态的边界。 原视...
AI 一旦通用，就成了权力问题
上一篇拆了 Anthropic CEO 达里奥·阿莫迪（Dario Amodei）这期访谈的前半段：一家 AI 公司怎么把商业模式和价值观对齐。从访谈第 28 分钟开始，话题拐了一个弯，火力也猛了一个档。前半段聊的是公司怎么赚钱，后半段聊的...
Anthropic 的企业押注，是价值观倒推出来的
大多数公司是先想清楚”做什么生意能赚钱”，再找一套说辞把它包装成使命。Anthropic 反过来：先定下”要把强大的 AI 做得安全”这条死规矩，再倒推什么样的生意不会跟它打架。在 Bloom...