METR 研究更新：算法评分高估 AI 智能体真实软件工程能力
METR 在 stdlib-js 和 hypothesis 两个仓库的 18 个真实 issue 上评估 Claude 3.7 Sonnet（Inspect ReAct 智能体），按维护者测试用例算法评分成功率为 38%（±19%），但人工评审的 15 个 PR 中没有一个可以直接合并。
AI 编码 大事记
重要进展 IMPORTANT_PROGRESS
2025-02-17 — 2025-02-17
重要进展 · 第 56 / 105 页
SWE-Lancer 评测真实付费软件工程任务
SWE-Lancer 从真实自由职业任务构建工程实现与管理决策评测，通过端到端测试衡量模型能否完成实际有偿工作。
AI 编码 精选历史资讯
— · 1 条
精选资讯 · 第 1 / 1 页
分类
排序
暂无内容