METR 发布 RE-Bench:对比语言模型智能体与人类专家的 AI 研发能力
METR 发布 RE-Bench 基准,用 7 个 ML 研究工程环境衡量人类专家与前沿模型智能体的表现,并公开 71 次人类专家尝试及 Claude 3.5 Sonnet 和 o1-preview 的全部运行转录。

2024-04-29 — 2024-04-29
重要进展 · 第 68 / 105 页
GitHub 将自然语言构思、规划、修改、测试和运行整合到任务式开发环境预览,推动从行级建议到完整开发任务的交互变化。
— · 1 条
精选资讯 · 第 1 / 1 页
METR 发布 RE-Bench 基准,用 7 个 ML 研究工程环境衡量人类专家与前沿模型智能体的表现,并公开 71 次人类专家尝试及 Claude 3.5 Sonnet 和 o1-preview 的全部运行转录。
暂无内容