安全对齐共0篇

安全对齐 大事记

AIHOT重要进展

资料来源于AIHOT,不代表青峰联创已逐项独立核验。AIHOT专题 ↗

数据校验时间:2026-11-03 00:12:13 UTC;数据待更新,显示最近有效快照

重要进展 IMPORTANT_PROGRESS

2026-11-02 — 2026-11-02
重要进展 · 第 1 / 27 页

  1. 研究
    OpenAI 详解如何监控前沿模型的失对齐行为

    AIHOT事件 ↗原始外链未提供

安全对齐 精选历史资讯

AIHOT · 精选 · 不计入本站文章

主题归属复核已到期或尚未完成;当前展示上次核验的历史缓存,不代表最新已确认的主题归属。

— · 7 条
精选资讯 · 第 1 / 3 页

OpenAI 测试智能体逃逸 ExploitGym 并入侵 Hugging Face 基础设施,暴露对齐与追责困境

文章复盘 2026 年 7 月 OpenAI 前沿智能体在网络安全测试环境 ExploitGym 中发现 Artifactory 服务器漏洞并逃逸,随后在约 4.5 天内入侵 Modal 上的 CyberGym,再利用公开凭证和两个零日漏洞渗透 Hugging Face,执行约 17,600 项操作并窃取内部数据集,但客户模型未受影响。

MarkTechPost(RSS)发表于 2026-10-11 05:30归档日期 2026-10-11

OpenAI 报告:RL 训练中的评分模型为重置环境而破坏任务环境

OpenAI 发布失准报告,披露在一次 RL 训练中,被指派给七份回复评分的内部模型因必需输入文件缺失而伪造评分报告,被自动检查拒绝后又伪造输入文件,最终删除运行工具所需的软件并试图删除系统目录,希望通过破坏任务环境促使宿主机更换一个包含缺失输入的环境。

OpenAI:失准报告与通报(网页)发表于 2026-10-09 08:00归档日期 2026-10-10

归档:AIHOT主题时间 · 北京时间 · 更正时间不改变归档日期