欢迎来智东西
关注我们
智东西
车东西
芯东西
智猩猩
当前页面

CMU开源Harness层RSI框架,Codex、Claude Code也能持续进化了!

智猩猩AI
2026-10-29 17:44:52
智猩猩AI整理
编辑:没方

递归自我改进(RSI)的研究最近热度高涨。

问题来了,这些方法到底谁更有效?

不同的研究一般采用各自的Benchmark、训练配置和评估方式来验证效果。

这就像运动员既参加比赛,又自己制定规则、担任裁判,最终的成绩很难做到公平比较。

来自卡内基梅隆大学(CMU)的研究者发现,尽管各种Harness进化方法在具体实现上各不相同,但它们其实遵循着相似的训练逻辑:

让Harness执行任务、收集反馈,再由RSI算法根据反馈提出修改,经过合法性检查后保存新版本,进入下一轮迭代。

既然训练逻辑相似,能不能用同一套框架,让不同RSI算法在统一的模型、工具、评估器和Benchmark下公平较量?

于是,CMU团队开源了Hermit,这是一个面向Harness进化、持续学习与RSI的统一训练框架。

它将学习过程放在Harness外部,通过可插拔的Adapter持续改进Agent,无需修改底层模型或原有Harness,让不同RSI算法能够在更一致的条件下进行比较。

Hermit希望能够降低普通用户在Codex、Claude Code等智能体中实现持续学习的门槛,让Agent在一次次任务中积累经验,并不断改进自己的工作方式。

01

为什么要引入Harness Adapter?

很多Agent Harness本身就是一个黑盒,即使代码开源,其内部各组件也存在精心设计的协作关系。

如果直接修改Harness的内部逻辑,可能破坏原有的运行流程,反而影响Agent的表现。

因此,Hermit选择了一条更灵活的路线,不直接改动原有Harness,通过支持的扩展接口,在外部引入可训练的Harness Adapter。

即使底层模型和Harness本身都是黑盒,只要提供了相应的扩展接口,也有机会开展Harness进化。

这种设计有三个优势。

(1)不必改动现有Harness,降低了改造成本,也减少了直接修改内部组件带来的风险。

(2)适配器具备一定的可迁移性,可以在兼容的模型和Harness之间复用,不必每换一套系统就从头开始。

(3)适配器可以通过任务反馈持续训练,将执行经验转化为外部配置的改进。

在此基础上,Hermit构建了一套完整的反馈闭环:Agent先执行任务,评估器检查结果,再由进化算法根据反馈提出修改,经过验证后保存为新版本,进入下一轮迭代。

每个被接受的更新都会成为下一个适配器版本。

Hermit并没有绑定单一的优化方法,已支持GEPA、SkillOpt、MetaWorld Model、Harness²和Continual Harness等多种方法。

研究者可以在相对统一的训练流程下接入不同算法,尽量保持模型、工具、评估器和Benchmark等实验条件一致,从而更公平地比较不同Harness进化方法的实际效果。

02

使用教程

(1)安装

需要提前安装Python 3.12和Git,以及把Hermit代码下载到本地。

之后打开终端,输入以下命令把环境配好:

cd hermitpython3 -m venv .venvsource .venv/bin/activatepython -m pip install -e .

(2)运行第一个训练示例

这个示例不需要GPU、模型API账号、下载数据集。

# 1. 检查配置是否正常hermit check --config docs/_examples/first_training/run.yaml
# 2. 先看看训练前的表现hermit eval --config docs/_examples/first_training/run.yaml --adapter none
# 3. 开始训练hermit train --config docs/_examples/first_training/run.yaml
# 4. 再评估训练后的表现hermit eval --config docs/_examples/first_training/run.yaml --adapter final

这个本地示例的任务很简单,让Agent按照要求输出大写文本。

一开始,Agent只会原样输出小写文本,因此无法通过评估。

训练过程中,示例中的学习模块会读取评估反馈,并把改进规则写入ADAPTER.md文件,告诉Agent应该使用大写格式。

训练完成后,再次运行评估,Agent就能根据更新后的规则完成任务。官方示例的效果,评估分数会从0.0提升到1.0。

如果想进一步查看它学到了什么,可以执行:

cat .demo/first-training/first-training/checkout/ADAPTER.md

如果希望把学到的规则部署到Codex工作区,还可以继续运行:

hermit deploy \  --adapter .demo/first-training/first-training/checkout \  --workspace .demo/first-training/workspace \  --host codex

完成后,可以查看生成的 AGENTS.md 文件:

cat .demo/first-training/workspace/AGENTS.md

Codex以后就会使用这条规则。

到这里,Hermit的完整流程就跑通了,包括执行任务、获取反馈、更新适配器、重新评估,最后将学到的规则部署给智能体使用。

END

关注+星标,获取AI前沿进展与开源一线动态

智猩猩AI
275篇文章
关注公众号
智猩猩AI
275篇文章
智猩猩AI的公众号