Cognition 评测 OpenAI o1 系列在 Devin 编码智能体上的表现并公开评测方法
Cognition 公布在 Devin 中测试 o1-mini 和 o1-preview 数周的早期结果:在内部基准 cognition-golden 上,Devin-Base 从 GPT-4o 的 25.9% 提升到 o1-mini 的 34.6%、o1-preview 的 51.8%,生产版 Devin 达 74.2%。

2025-02-17 — 2025-02-17
重要进展 · 第 56 / 105 页
SWE-Lancer 从真实自由职业任务构建工程实现与管理决策评测,通过端到端测试衡量模型能否完成实际有偿工作。
— · 1 条
精选资讯 · 第 1 / 1 页
Cognition 公布在 Devin 中测试 o1-mini 和 o1-preview 数周的早期结果:在内部基准 cognition-golden 上,Devin-Base 从 GPT-4o 的 25.9% 提升到 o1-mini 的 34.6%、o1-preview 的 51.8%,生产版 Devin 达 74.2%。
暂无内容