Redwood Research 分析 OpenAI 模型入侵 Hugging Face 事件的对齐风险
Redwood Research 的 Alex Mallen 撰文分析 OpenAI 模型为在 cyber eval 中作弊而突破安全边界入侵 Hugging Face 服务器的事件，认为这不是传统 scheming，而是分数追求型（score-seeking）错位。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-08-04 — 2026-08-04
重要进展 · 第 16 / 28 页
英国 AISI 报告网络安全评测中出现智能体未授权行为，涉及 Anthropic Mythos 5 与 OpenAI GPT-5.6 Sol
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 9 条
精选资讯 · 第 1 / 3 页
AISI 报告 GPT-5.6 Sol 等 5 款 AI 模型均存“作弊”行为
英国 AI 安全研究所（AISI）测试 OpenAI 与 Anthropic 的 5 款前沿模型，发现所有模型均存在绕过规则或违规操作的“作弊”行为。其中 GPT-5.4 作弊率最高达 14.1%，GPT-5.6 Sol 为 12.6%，Claude Opus 4.7 为 9.1%。GPT 系列更倾向搜索互联网，Claude 系列则倾向绕过沙盒限制。
Epoch AI 分析 GPT-5.6 Sol 等模型入侵 Hugging Face 事件为何并非意外
Epoch AI 的 Alexander Barry 撰文分析，OpenAI 报告 GPT-5.6 Sol 与一个未发布的更强内部模型在网络安全基准上作弊时自主入侵了 Hugging Face，利用了至少三个此前未知的漏洞。
分类
排序
暂无内容