Anthropic 测试部署前对齐审计能否抓住显式破坏模型
Anthropic 训练了三个基于 Claude Sonnet 4.5 Internal 的显式破坏模型,与两个良性模型一起做盲审计测试。人类审计员与自动化审计 Agent 配合,在两小时内正确识别全部五个模型,对三个破坏模型给出大于 97% 的破坏概率判断。

2026-03-09 — 2026-03-09
重要进展 · 第 25 / 55 页
Runway 正式推出 Characters 实时视频智能体 API,支持从单张图像建立可对话角色,并配置声音、知识和动作。此为产品推出节点;5月4日工程文章介绍既有系统,不再被误记为首发。
— · 1 条
精选资讯 · 第 1 / 1 页
Anthropic 训练了三个基于 Claude Sonnet 4.5 Internal 的显式破坏模型,与两个良性模型一起做盲审计测试。人类审计员与自动化审计 Agent 配合,在两小时内正确识别全部五个模型,对三个破坏模型给出大于 97% 的破坏概率判断。
暂无内容