笔记
长文与短记:研究思考、方法论,偶尔也复盘做事的过程。
-
环境不正 Agent 歪
我翻了三份公开的 RL 训练记录,发现 agent 变歪有迹可循。
-
让环境训练起来
模型变得可训练了,环境从未得到这份待遇,而且它今天甚至不是一个整体。把改变这件事所需的东西摊开成一叠问题,并说明为什么这叠楼造起来,上限就会动。
-
为什么测量必须先行
三个领域各用各的语言撞上同一堵墙。体制依赖性迫使测量进入训练过程内部,而撤除测试决定什么才算贡献。
长文与短记:研究思考、方法论,偶尔也复盘做事的过程。
我翻了三份公开的 RL 训练记录,发现 agent 变歪有迹可循。
模型变得可训练了,环境从未得到这份待遇,而且它今天甚至不是一个整体。把改变这件事所需的东西摊开成一叠问题,并说明为什么这叠楼造起来,上限就会动。
三个领域各用各的语言撞上同一堵墙。体制依赖性迫使测量进入训练过程内部,而撤除测试决定什么才算贡献。