Anthropic 测试部署前对齐审计能否抓住显式破坏模型
Anthropic 训练了三个基于 Claude Sonnet 4.5 Internal 的显式破坏模型，与两个良性模型一起做盲审计测试。人类审计员与自动化审计 Agent 配合，在两小时内正确识别全部五个模型，对三个破坏模型给出大于 97% 的破坏概率判断。
Agent智能体 大事记
重要进展 IMPORTANT_PROGRESS
2026-08-18 — 2026-08-18
重要进展 · 第 8 / 55 页
OpenAI 披露放缓前沿训练并加强智能体研究隔离
OpenAI 说明曾暂停面向部署模型的强化学习训练两周，最大计划中的前沿强化学习训练仍暂缓；Hugging Face 事件后，对可执行代码或联网工具的研究推理任务暂停并逐项恢复。
Agent智能体 精选历史资讯
— · 1 条
精选资讯 · 第 1 / 1 页
分类
排序
暂无内容