Dense vs MoE:大模型架构的选择题
选 Dense 还是选 MoE?这个问题在 2025 年之后已经不怎么争议了——大多数顶级闭源模型(GPT-4 系列、Gemini、DeepSeek-V3)都用了 MoE。但这不意味着 Dense 没用了。两种架构各有清晰的能力边界,选错架...
分类更新 / 第 4 页
系统设计、云边协同、服务治理与工程架构实践。
本栏重点
选 Dense 还是选 MoE?这个问题在 2025 年之后已经不怎么争议了——大多数顶级闭源模型(GPT-4 系列、Gemini、DeepSeek-V3)都用了 MoE。但这不意味着 Dense 没用了。两种架构各有清晰的能力边界,选错架...
Agent 有个老问题:它知道怎么写代码、怎么查资料、怎么调用工具,但它不知道你自己的东西在哪里。 我说的不是联网搜索——Google 和 Bing 它已经会用了。我说的是你自己沉淀下来的那堆 Markdown:项目文档、SOP、会议纪要、...
> 视频来源: > > 受访者:罗福莉(小米大模型负责人) > > 说明:本文基于用户提供的中文字幕转写整理,按一个核心问题重新组织,不是逐字稿。 很多人第一次看 OpenClaw,都会下一个很快的判断:这不就是 Cla
这一周最值得记住的,不是哪家模型又发了一个新版本,也不是哪家厂商又多说了几句 Agent 愿景。 真正变硬的一条线,是 Agent 开始全面撞上生产现实。算力不够,订阅收紧,漏洞变成供应链入口,观测和权限开始补票,平台厂商也不再只卖“更聪明...
AI Agent 的终极形态不是单个 Agent 多强,是一群 Agent 怎么协作,以及它们共同积累的知识怎么不丢失。 Hermes 解决知识积累用的是 LLM Wiki 模式——用 LLM 做蒸馏引擎,把原始信息压成可检索的结构化知识。...
AI Agent 的核心差异不在于模型能力,在于记忆怎么管、技能怎么长。OpenClaw 是你教它做事,Hermes 是它自己在工作中学会做事。这个区别看起来小,跑 30 天后效果天差地别。 我花了三周读了 20 多篇 Hermes Age...
这一周最值得记住的,不是又多了几个 Agent SDK,也不是哪家模型又把能力榜单往前推了一格。 真正的变化是,AI Agent 这条线开始从“能不能做更多事”,转向“谁敢把它放进真实系统里”。安全、身份校验、可审计 harness、生产级...
> 原始文件: > > 说明:这次不做导读式改写。第一章直接放完整对照翻译,尽量按原始 `{tag}` 结构保留;第二章再单独分析这套设计的优点、缺点和代
最近一年做 Agent 的人,几乎都会在同一个地方反复撞墙: 模型越来越强,工具链越来越长,但对话一断、会话一换,系统就像“失忆”一样,重新变回一个陌生助手。 很多团队把这个问题当成“再接个向量库”就能解决的工程细节。看完这期视频后,我反而...
> 来源视频:**《谷歌 Gemma 4 最强的,不只是开源:接进小龙虾后,我终于明白本地模型真正该干什么》** > 频道:灵姐说AI | Ling Talk AI > 视频链接:https://www.youtube.com/watch?...
`gbrain` 这套系统最值得分析的地方,不是“它能存记忆”,而是它把“记忆”拆成了三层彼此配合的工程结构:**可读的 Markdown 脑仓、可检索的 Postgres 索引层、可持续写入的 Agent 工作流**。这三层缺一不可。 很...
当很多人还在把 Agent 理解成“更复杂一点的 Prompt + Workflow”时,Anthropic 已经开始往另一条路上走了。Claude Managed Agents 的真正意义,落点不在于它把长任务、沙盒、记忆、多智能体协作这...
最近围绕 Claude Code 记忆系统的几篇文章,让我重新认真想了一遍一个其实已经被说滥、但直到今天仍然没有被真正说清的问题:大模型为什么需要记忆? 表面看,这像一个早就有标准答案的问题。模型上下文有限,所以要把过去的信息存起来;用户会...
这篇文章不是为了证明“多 agent 很先进”,也不是为了包装一次普通 demo 的完成。 相反,我更想把这次过程里最不舒服、最容易被忽略、但最值得记住的部分写清楚:为什么一个目标并不算特别复杂的 IMA 本地展示项目,会在多 agent ...
Anthropic 前几天开源了一批 Knowledge Work Plugins,专门给 Cowork(他们的桌面 AI 工具)用。11 个插件覆盖销售、法务、金融、产品管理等领域。 我把其中的 Customer Support Plug...
最近一轮模型发布里,几乎所有主流实验室都把「1M token 上下文」写进了规格表。 看起来像是同一赛道,实际却不是同一能力。 如果把问题改成更工程化的一句: 在多长上下文下,模型还能以接近 90% 的准确率完成信息定位与诉求理解? 答案会...
你可能在某篇文章里看到过这样一段代码——只有四行,复制粘贴到浏览器控制台,整个网页就变成了一个 AI 助手的操作台: const script = document.createElement('script'); script.src =...
当你兴冲冲地给团队搭了一个 AI 助理,让 100 个人同时使用它时——你有没有想过,张三告诉 Bot 的偏好,会不会在李四的对话里冒出来? 这不是假设。这是我在实际部署 OpenClaw(一个开源 AI Agent 框架)时踩到的真实地雷...
我把这个目录里 2026-03-09 收集到的 19 篇 OpenClaw 文章完整过了一遍,感受很直接:这批内容表面上各写各的,底层其实像一条完整的内容流水线。有人负责点火,有人负责扫盲,有人负责保姆级落地,有人负责展示高级玩法,还有人专...
读完这个目录里所有关于 OpenClaw 的文章后,我发现一个很有意思的现象。 前期热度文章里,很多人把重点放在“它能干什么”“多快能装起来”“怎么用起来最爽”。真正开始谈技术骨架、安全边界、长期维护成本的内容,大多出现在热度中后段,或者干...