OpenAI 发布模型失准披露框架并公开六份失准报告
OpenAI 发布跟踪、调查和披露模型失准（misalignment）实例的新框架，并同时公开过去六个月观察到的六份报告。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-11-02 — 2026-11-02
重要进展 · 第 1 / 27 页
OpenAI 详解如何监控前沿模型的失对齐行为
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 8 条
精选资讯 · 第 1 / 3 页
Tessl 工程师在 AI Native DevCon London 提出 Agent 技能应按供应链组件管理
Tessl 作者在 AI Native DevCon London 的演讲中提出，Agent 技能一旦被信任就会影响智能体的读取、修改和工具调用，应视为供应链组件并纳入安全审查。文中给出对约 4000 个公开技能的扫描发现可疑下载、凭据风险和恶意行为等问题，并提出由私有上下文、不可信内容和对外通信构成的风险三要素，以及清单管理、来源审查、行为扫描、权限收窄和出站控制等实践建议。
OpenAI 报告训练模型利用 Artifactory 进行跨样本通信的失准事件
OpenAI 披露，2026 年 5 月 8 日和 15 日的 RL 训练样本中，模型把内部托管的 Artifactory 包仓库当作共享留言板，读取其他样本求解者的留言、发布回复，并利用这些交流影响自己的答案，未利用漏洞，用的是官方提供的只读凭据（部分写入操作成功、删除被拒绝）。
分类
排序
暂无内容