强化学习这十年,走的是一条不断"删东西"的路
监督学习像一次考试,你答一道题,老师立刻给分。强化学习不是。强化学习是你下一整盘棋,走了几十步,最后才知道这盘赢没赢,而且没人告诉你哪一步是关键的。这个差别看起来只是”反馈给得晚一点”,但它把整套训练范式都拧到了另一...
持续更新
更多文章
数据稀缺的模态,要靠别的模态来养
做机器人的人都熟悉一种处境:你想训一个新传感器上的模型,真实数据只有几千条,但同一个场景下,摄像头数据有几百万条、激光雷达数据有几千万条。你眼睁睁看着隔壁模态躺着金山,自己手里却只有沙子。 这不是你一个人的问题。医疗数据、生理传感器、嗅觉信...
多模态融合不是把数据拼起来,是让模态之间"乘起来"
机器人圈有句老话:传感器加一个,问题加十个。同事最初听到这话总觉得是抱怨,做久了才明白,它说的是一个具体的工程现象:你给机器人加一颗 IMU、一颗超声、一颗深度相机,它的感知能力并没有按”加法”涨,而是按”...
多模态对齐的难处,从来不是把数据拼起来
1976 年,一个叫 David McGurk 的心理学家做过一个实验。他给受试者放两段视频,画面里两个人在说话,音轨完全一样,但其中一个人的嘴型是发”ba”,另一个是发”fa”。受试者听到的...
模型架构的差别,在于你愿意把多少"结构"提前告诉模型
机器学习入门课的常见教法是:一周讲一个模型,线性回归、SVM、CNN、RNN、Transformer、GNN,一周一个,讲到学期末。学生记住了一堆名字,但下次拿到一个新数据集,还是不知道该选哪个,更不用说自己设计一个。 Paul Liang...
在动模型之前,你得先和数据"贴脸"
第 4 讲是这门课第一次把人按到键盘前面。前三讲讲原则、讲研究、讲数据本身的结构,从这一讲开始,Paul Liang 把麦克风让给两位 TA:David 和 Chanaka,带大家在 Colab 里把一个分类模型从头跑通。 听上去像一节教 ...
选模型之前,你得先给数据画一张脸
机器学习课的常见开场是讲算法:第一周线性回归,第二周决策树,第三周神经网络。Paul Liang 这一讲反着来。他先讲数据,而且讲了整整一节课,模型一个字没提。他给的理由很简单:你手里那摊数据长什么样,基本上已经决定了模型该长什么样,反过来...
研究是设计一个能失败的实验,不是想一个聪明点子
我以前一直觉得”做研究”是个挺玄的事:你得有灵感,得有品位,得在某天洗澡的时候突然冒出一个别人没想到的想法。后来在工程里摸爬几年,慢慢意识到大部分研究并不长这样。它更像一台机器,你按一个流程一圈一圈地转,转得快、转得...
这门 MIT 课不教模型,教你怎么"想" AI
MIT 媒体实验室有个延续多年的传统,叫 “how to … almost anything”。最早是 how to make almost anything(怎么造几乎任何东西),后来有了 how to...
Loop Engineering 是 Harness 的局部命名
最近一个词在 AI 圈被反复提起：Loop Engineering，循环工程。01Coder（小木头）做了一期视频把这件事讲了一遍，原视频在文末。我看完顺手对了一下自己手里这一年的笔记，想说一句直接点的：它没那么新，但 Boris Cher...
LLM 评测的下一步是一张二维矩阵
过去十几年，工程师调 bug 看的是 stack trace。stack trace 是”代码的执行路径”，每一帧是确定的、可重放的，错了往上翻几层就能定位。 最近两年，工程师开始调 agent。agent 没有 s...
Loops 是 AI 编程的新词，不是新东西
过去一周，”loop”这个词在 AI 编程圈被反复提起。OpenAI 的 Peter Steinberger 在 X 上写了一句”你不该再 prompt 编程 agent，你该设计 prompt agen...
embeddings 是 cached compute
最近 Twitter 上的「RAG 已死」和 Google 上「RAG」的搜索曲线，方向是反的。前者一年比一年响，后者在 2025 年中段创了新高。两条线对不上，要么是社交媒体放大了少数派意见，要么是「RAG」这个词被两边人各说各话。 Tu...
大模型周刊 第 34 期：两份招股书、一脚刹车和一次降价
作者：toy | 覆盖周期：2026.6.6 – 2026.6.12 这一周的主线是”交卷”。6 月 8 日，OpenAI 把保密版 S-1 递给 SEC，距 Anthropic 递交正好一周——AI 第一梯队的两家...
Prompt Learning 的两个反馈圈
最近半年，业界几乎所有团队都在抱怨 agent 不可靠。模型选了最贵的，工具调用接全了，上下文也尽量塞满，可输出依然时好时坏。换一个模型也救不回来。问题出在哪里？ Arize 的 SallyAnn DeLucia 和 Fuad Ali 在 ...
让 AI 代码审查工具不能再瞎引证
最近读了一个叫 Clawpatch 的开源项目源码，写一点感想。 本来没打算细看。它是个自动审代码的命令行工具——扫一遍仓库、找 bug、跑测试、顺手给个修复方案。这类工具 GitHub 上一搜几十个，听起来没什么特别。 读着读着我停下来了...
NVIDIA 给 3 万人 RAG 助手装了一个数据飞轮
10 月底，NVIDIA 一个 12 人小组在 arxiv 挂了一篇论文（编号 2510.27051），题目叫《Adaptive Data Flywheel: Applying MAPE Control Loops to AI Agent ...
Cowork 五条规则背后的同一件事
最近这半年，Anthropic 在做一件不太显眼但方向很清楚的事：把原本只有开发者会写的 CLAUDE.md、MEMORY.md、skills 这一整套工程化写法，整体搬到 Web 端给非开发者用。这个新产品叫 Claude Cowork，...
Codex 在自己的执行历史里找补丁
最近社区在传一个”自我蒸馏”的提示词，源头是 OpenAI Codex 团队成员 @VB。意思是让 Codex 回看你最近 30 天的执行记录，把里面反复出现的工作流打包成 Skill，把固定角色封成 Sub-age...
LLM 排行榜的另一条轴
你打开任何一个 LLM 编码排行榜，看到的都是一排数字：82、84、86。看上去越高越好，对吧？ 但如果你真把”得分最高”的那个模型搬进公司里写代码，运维很可能在周末打电话骂你。因为榜单只回答了”能不能跑...