METR 研究更新:算法评分高估 AI 智能体真实软件工程能力
METR 在 stdlib-js 和 hypothesis 两个仓库的 18 个真实 issue 上评估 Claude 3.7 Sonnet(Inspect ReAct 智能体),按维护者测试用例算法评分成功率为 38%(±19%),但人工评审的 15 个 PR 中没有一个可以直接合并。

2026-07-16 — 2026-07-16
重要进展 · 第 12 / 105 页
xAI 官方发布 Grok 4.5,说明模型与 Cursor 共同训练,并将真实软件工程、长程编码和 Agent 任务作为主要能力。
— · 1 条
精选资讯 · 第 1 / 1 页
METR 在 stdlib-js 和 hypothesis 两个仓库的 18 个真实 issue 上评估 Claude 3.7 Sonnet(Inspect ReAct 智能体),按维护者测试用例算法评分成功率为 38%(±19%),但人工评审的 15 个 PR 中没有一个可以直接合并。
暂无内容