，正成为新一代 AI 实验室重点探索的方向。当地时间 28 日，Anthropic 研究员计划的一名研究人员展示了这种思路真正落地后可能呈现的样子。

　　Anthropic 发布了最新论文

　　这套系统由 Anthropic 研究员计划成员陈岳翰领导开发，工作流程与传统科研相似。自动化系统会先查阅已有文献，提出训练方法，再按照方案训练模型 30 分钟，并通过多轮尝试逐步提高测试成绩。有效方案会留下，无效方案则被淘汰，使整个研究过程能够快速扩大规模。

　　这项研究也向递归自我改进迈出了一步，而许多人把递归自我改进视为 AI 发展的下一个重要阶段。如果 AI 模型能够改进自身的对齐训练方法，那么进一步改进更广泛的训练流程也并非没有可能。到了那一步，人类 AI 研究人员甚至可能逐渐失去存在的必要。

　　论文也直接比较了自动化对齐研究员和人类研究人员的表现：“最优秀的 AAR 方法平均只需 6 小时，就能超过经验丰富的人类研究人员提出的方案。人类引导的研究方向，并不会导致更强的表现。”

　　成本差距同样明显。“AAR 每小时只需要大约 4 美元的 API 推理成本，而我们支付给人类研究人员的费用是每小时 150 美元。”

　　不过这套方法仍有明显限制。自动化系统的效果首先取决于基准测试能否准确反映真正的对齐目标，即使测试本身可靠，建立和长期维护这些基准仍需要大量投入。自动化研究员依赖的研究文献同样需要持续维护和扩充。

　　特别

　　张家辉曾公开爆料，杨紫进组后竟多次跟他“放话”：“张大哥，你知道吗？我可是内地最红的一线女明星！

　　广州仨小孩哥凑10.5元“天使投资”挽留便利店；老板最新回应：钱没花，店将关，但心被救活了

　　NVIDIA 616.56驱动“偏科”严重！RTX 5080路径追踪提升8.1%：游戏玩家却难享福利

　　为了免费换电池 M1 Max用户硬生生把MacBook循环了543次！电池健康度却纹丝不动