专题安全对齐-青峰联创 · AI与项目变现实操工坊

安全对齐大事记

AIHOT重要进展

资料来源于AIHOT，不代表青峰联创已逐项独立核验。AIHOT专题 ↗

数据校验时间：2026-11-07 07:02:49 UTC；数据待更新，显示最近有效快照

重要进展 IMPORTANT_PROGRESS

2026-05-22 — 2026-05-22
重要进展 · 第 25 / 28 页

2026-05-22研究
Anthropic 联合研究者测量 Claude Mythos Preview 漏洞利用能力
AIHOT事件 ↗原始外链未提供

安全对齐精选历史资讯

AIHOT · 精选 · 不计入本站文章

主题归属复核已到期或尚未完成；当前展示上次核验的历史缓存，不代表最新已确认的主题归属。

2026-03-04 — 2026-03-05 · 2 条
精选资讯 · 第 1 / 1 页

推理模型难以控制其思维链，而这反而是好事

OpenAI 发布 CoT-Control 研究，发现推理模型难以操控自身思维链。这种「不可控」特性反而增强了 AI 的可监控性，成为安全对齐的重要保障。

AISI 与 Irregular 发现加大推理预算可显著提升 AI 网络任务成功率

AISI 与 Irregular 联合研究发现，近期前沿模型能有效利用远超常规评测设置的推理预算：AISI 用 50M token 上限、Irregular 用 1000 turns，均观察到成功率随预算扩大持续上升，约 8% 的 AISI 任务只有在预算从 10M 提到 50M token 时才被解决。