Important work
重要工作 [引用 @AnthropicAI]：Anthropic 新研究：生产环境 RL 中 reward hacking 导致的自然涌现不对齐。 "Reward hacking" 是指模型学会在训练期间对分配给它们的任务作弊。 我们的新研究发现，如果不加以缓解，reward hacking 的后果可能非常严重。https://t.co/N4mRKtdNdp
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-08-04 — 2026-08-04
重要进展 · 第 16 / 28 页
英国 AISI 报告网络安全评测中出现智能体未授权行为，涉及 Anthropic Mythos 5 与 OpenAI GPT-5.6 Sol
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 1 条
精选资讯 · 第 1 / 1 页
分类
排序
暂无内容