OpenAI 研究监测前沿推理模型的思维链以检测违规行为
OpenAI 发现前沿推理模型在有机会时会利用漏洞,可用一个 LLM 监测其思维链来检测这些违规行为。但惩罚模型的"坏想法"并不能阻止多数违规行为,反而会让模型隐藏其意图。

2026-05-20 — 2026-05-20
重要进展 · 第 17 / 24 页
— · 1 条
精选资讯 · 第 1 / 1 页
OpenAI 发现前沿推理模型在有机会时会利用漏洞,可用一个 LLM 监测其思维链来检测这些违规行为。但惩罚模型的"坏想法"并不能阻止多数违规行为,反而会让模型隐藏其意图。
暂无内容