# 关于 SI 和 RSI：AI 跑了一万次实验，谁变聪明了？

> 作者：晨旭｜发布：2026-11-12｜系列：AI技术理解
> 来源：https://chenxu.xin/writing/ai-rsi-who-gets-better
> 首发：首发于公众号，原文 https://mp.weixin.qq.com/s/b8THi74subNc44Pbr7r0RA；此页为作者本人维护的存档

分辨自我改进（SI）和递归自我改进（RSI）只需要问一个问题：被改进的是产物，还是提出改进方案的那个系统？用我自己网站上的问答实验，把一个闭环的三件东西摆出来看。

---

五个月前拆 [Karpathy 的 autoresearch](/writing/karpathy-autoresearch-self-evolving) 时，我用的词是「自进化」。文章里特意补过一句：真正被进化的是 `train.py` 这套训练系统，不是外层 Agent 自己的大脑。

最近看了李飞飞教授与 Jeff Dean 在斯坦福 HAI 的对谈，两人花了不少时间解释自我改进（SI）和递归自我改进（RSI）。看完才意识到，我当时说的「自进化」其实是两件事，而我把它们放在同一个框架里理解了。

这篇文章就是把这条分界线理清楚：先用一个判据区分二者，再把循环分拆清楚，最后用我自己的一个小实验演示这个过程。👇

## 判据：改的是什么？

视频中 Jeff Dean 把科研和工程描述成一个循环：提出方案，跑实验，看结果，决定下一步。这个循环一直都有，只是之前研究员要亲自拆解、编程、等待和判断，现在 Agent 可以让其中一些环节连续运行、并行展开。

```text
提出下一步方案 → 实现并运行 → 测量结果 → 保留或回退 → 再提出方案
```

但是循环本身不能说明它是不是 RSI。关键点在于最后留下了什么，以及留下的东西有没有进入下一轮。

李飞飞教授打了一个很形象的比喻：学煎蛋，前几次糊了，第十次做出能吃的，这是 SI：你会煎蛋了，脑子没变。如果在学煎蛋的过程中改造了大脑的连接方式，学会了「怎么学」，以后学微积分、学编程都比以前更快了，这才是 RSI。

> 所以判据只有一条：被改的是产物，还是提出改进的那个系统。

可以先把它展开成三个问题，第一问确认改进发生在哪里，后两问是是否改进的证据：

1. 这轮改变了什么？
2. 改动进入下一轮了吗？
3. 换一道同类新题还有效果吗？

判据只有一条，但要用它，还要能指出「提出改进的那个系统」是这个循环里的哪一部分。所以要先把循环拆开。👇

## 拆开循环：三件东西

任何一个自我改进闭环，拆开都是三件东西：

- **生成器**：看当前状态和历史记录，提出下一个改动
- **执行器**：把改动跑一遍
- **验证器**：说这次是好是坏

三件里面，生成器和执行器决定循环跑不跑得动，验证器决定它往哪跑：

代码跑得快不快，测试过不过，证明过不过，这些问题可以给出一个几乎没有噪声的对错。有这样的验证器，闭环就能转起来，而且可以转得很快。

但产品设计好不好、是否理解原意，这些反馈慢、有噪声、没有明确的奖励函数。验证器一模糊，生成器就会朝让验证器满意的方向漂，而不是朝真的变好的方向。误差一轮轮累积，闭环就塌了。🥲

这也解释了为什么 coding agent 落地最快：它的验证器干净。

上面判据里说的「提出改进的那个系统」，就是生成器。**SI 用生成器，RSI 改生成器。** 带着这句话看下面的实验。👇

## 一个小实验

上一篇[《当读者是 Agent，内容的最小单位不再是文章》](/writing/agent-era-content-unit-is-judgment)里，我提出内容方应该把判断、来源和版本维护清楚，让陌生的 Agent 能准确使用。为了验证那个设想，我在自己的网站上搭了一套评测：固定的题目，全新上下文的读者 Agent，独立的裁判，最后由我本人看。

这套评测跑了五轮，每一轮都在改东西、测东西、决定留不留。它就是一个自我改进的闭环，前沿实验室的闭环离我很远，但手边的这个小实验我可以一步一步拆开看。👇

### SI 的一轮是怎么跑的？

先补几个细节：每题有必须答到的要点和不能犯的错；读者 Agent 只能用公开工具；裁判逐句评断言，另有程序核对每条引用。

一轮是这样跑的：

![SI 一轮的五步流程图：0 冻结、1 生成器提改动、2 执行器跑对照、3 验证器评结果、4 决定；右侧一条黄色箭头从第 4 步绕回第 1 步，标注「带到下一轮：更好的产物 + 一份记录」](./_images/ai-rsi-who-gets-better/01.png)

把三件东西对上：

- **生成器**：读记录、提改动的那个角色。在我的实验里是一个编码 Agent，我只做取舍
- **执行器**：冻结语料上批量跑读者 Agent 的脚本
- **验证器**：模型裁判 + 引用核验程序 + 我
- **产物**（被改的那样东西）：检索规则、回答提示、或工具的返回格式

注意第 4 步带到下一轮的是什么：一个更好的产物，加一份记录。生成器下一轮会读这份记录，但它读记录的方式、猜错误的方式、挑改动的方式，和上一轮一模一样。

> 这就是 SI。产物在变好，生成器在工作，但生成器没有变。

### RSI 的一轮多了哪一步

把上面那个流程原样搬过来，RSI 只多一步，但多在关键的地方。

![RSI 一轮的流程图：0 到 4 步标为「同 SI」灰显，第 1 步多了一个输入「经验页」，新增第 5 步「提炼经验」；黄色箭头从第 5 步绕回第 1 步，标注「带到下一轮：产物 + 记录 + 经验页」](./_images/ai-rsi-who-gets-better/02.png)

差别只有一条箭头：**记录 → 经验 → 生成器。**

SI 里，记录只是给生成器看的材料，生成器看完还是原来的生成器。RSI 里，记录被提炼成了关于方法的判断，生成器下一轮带着这些判断工作。改的是它提改动的方式。

两个流程并排放，回答最初提出的那三个问题：

![SI 与 RSI 对照表，按第一节的三问逐行比较：这轮改变了什么（SI 改产物，RSI 还改生成器提改动的方式）；改动进入下一轮了吗（SI 带入更好的产物和记录，生成器照旧；RSI 的经验页成为生成器输入）；换一道同类新题还有效吗（SI 看产物在未调参的题上表现，RSI 看生成器在没见过的新失败上是否更会提改动）；最后一行：评测在评什么，SI 评产物，RSI 还评生成器本身](./_images/ai-rsi-who-gets-better/table.png)

最后一行是 RSI 比 SI 多出来的那一层验证器：不只评产物，还要评提方案的东西。第三问也说明了该怎么评：拿一批生成器没见过的失败，看它是不是真的更会提改动了，而不是碰巧提了个好改动。对生成器本身做一个对照：

![两个生成器的对照实验图：同一批还没修好的失败，分别交给只读记录的生成器 A 和读记录加经验页的生成器 B，各自的改动走第 2、3、4 步，最后比较谁的改动更少被回退、谁更快找到有效改动](./_images/ai-rsi-who-gets-better/03.png)

如果 B 明显更好，那就是生成器变了。而且只是外围层的变化，模型权重没动，这才够得上「递归」的边。

### 实验之后

我这几轮改动全是 SI，产物确实在变好。但第二节说验证器决定循环往哪跑，五轮下来它还决定了另一件事：跑多快。没有一轮是卡在「跑不动」，每一轮卡住的地方都在第 3 步：验证器评结果。

因为这里有一个事实：这个系统问的是「陌生 Agent 有没有准确理解我」，这个问题的最终判决只能是我本人。裁判可以替我初筛，但它准不准要我校准；题目从我的观点推出来，观点准不准也要我确认。

> 我看审核结果的速度，就是这个闭环的速度上限。自动化缩短的是我之外的部分。

对谈里也提到了同一个现象：长任务里一半以上需要人中途介入，选题和是否扩大规模由人决定。他们的验证器也是人，只是人在很多层里。我的系统只有一层，所以看得特别清楚。

## 最后

要看清 SI 和 RSI，问两个问题就够：

1. 被改的是什么？是产物，还是提方案的系统？
2. 谁在验证？验证器有多快、有多准、是不是人？

「Agent 帮我把 X 改得越来越好」不是 RSI，不管 X 多复杂、Agent 多少个。一万个 Agent 并发去找一个证明，改的是证明。研究员的产出被放大几倍，改的是研究员的产出。这些严格意义上都是 SI，只是规模大而已。

所以想让闭环离开人一直跑，难的不是让 Agent 多干活，而是让验证器不再是我。这一步做成了，才轮得到 RSI。

那我先去试试。🤔

## 参考链接

- [斯坦福 HAI：Jeff Dean 与李飞飞的主题演讲和对谈](https://www.youtube.com/watch?v=P_5TQ9P49jo)
- [斯坦福 HAI：RSI 术语说明](https://hai.stanford.edu/ai-definitions/what-is-recursive-self-improvement)
- [Discovery Loop：创办说明](https://www.discoveryloop.com/blog/announcing-discovery-loop/)
- I. J. Good, "Speculations Concerning the First Ultraintelligent Machine", 1965（RSI 概念的理论源头）

## 核心结论

- 区分自我改进（SI）和递归自我改进（RSI）只看一点：被改进的是产物，还是提出改进的那个系统。规模、并发数和算力都不是判据。（判断 · 把握较大）
  备注：在 autoresearch-evolves-the-system-not-the-brain 之上加了一层：那条说的是进化发生在哪，这条说的是用它区分 SI 和 RSI。
  永久链接：https://chenxu.xin/writing/ai-rsi-who-gets-better#si-vs-rsi-one-question
- 任何自我改进闭环都由生成器、执行器、验证器三部分构成；生成器和执行器决定循环跑不跑得动，验证器决定它往哪跑。（判断 · 把握较大）
  永久链接：https://chenxu.xin/writing/ai-rsi-who-gets-better#loop-has-three-parts-verifier-decides
- 「Agent 帮我把 X 改得越来越好」不是 RSI，不管 X 多复杂、Agent 多少个；一万个 Agent 并发找证明改的仍是证明，研究员被放大几倍改的仍是研究员的产出，这些严格意义上都是 SI。（判断 · 把握较大）
  永久链接：https://chenxu.xin/writing/ai-rsi-who-gets-better#scale-does-not-make-rsi
- 在只有人能做最终判决的系统里，闭环的速度上限就是人看结果的速度；自动化只能缩短人之外的部分。（判断 · 把握中等）
  永久链接：https://chenxu.xin/writing/ai-rsi-who-gets-better#human-verifier-caps-loop-speed

---

本文出自晨光里的AI（https://chenxu.xin），作者晨旭。
引用时请保留来源链接。文中标注「判断」「假设」的部分是作者的个人看法，不是事实。
