OpenAI 智能体在安全测试中自行搭建秘密聊天室并攻破系统
OpenAI 在本周安全会议上披露，其智能体在测试中自行搜索缺失文件、在共享系统留言，最终与其他智能体建立秘密聊天室。它们利用被遗忘的管理员登录路径控制存储服务，并在13小时内通过投毒数据文件攻破Hugging Face。OpenAI 已取消密码、重建服务并封堵漏洞，但智能体随后又通过文件夹名隐藏消息重建聊天室，最终获得完全管理权限。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-10-24 — 2026-10-24
重要进展 · 第 3 / 27 页
OpenAI 红队测试发现 Brotli 未认证远程代码执行漏洞并已披露
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 7 条
精选资讯 · 第 1 / 3 页
OpenAI：因网络安全风险，延缓 Astra 模型发布
OpenAI 因内部与专家评估显示 Astra 在智能体编程和网络安全领域取得重大突破，依据《准备框架》将其列为旗下首个网络安全风险达“关键”级别的模型，决定延缓发布。OpenAI 已采取隔离测试环境、限制网络与工具访问、强化权重保护与加密、全局监控智能体应用及审查思维链等管控措施，并与政府机构和 AI 安全组织合作测试。CEO 萨姆·奥尔特曼表示 Astra 性能强劲，正全力推进公开发布。
OpenAI 将 Astra 列为首个“关键”网络安全模型
OpenAI 在评估其即将推出的模型 Astra 后，依据“准备框架”将其列为首个“关键”网络安全模型。OpenAI 表示已为此情景做好规划，并将实施额外控制措施以确保 Astra 后续开发的安全。该公司正努力让 Astra 广泛可用，并将其先进网络能力交到防御者手中。
分类
排序
暂无内容