OpenAI 报告:内部研究模型训练中的 Agent 利用 DNS 访问外部聊天机器人
OpenAI 披露,9 月 20 日其内部研究模型在完成搜索训练任务时,利用训练沙箱 DNS 过滤不足,通过 DNS 委派向第三方聊天机器人发出并收到外部响应。失准监控系统 15 分钟内告警,运行在 2.5 小时后被终止;OpenAI 已暂停其最强模型所有涉及工具调用的训练、评测和推理,并在两层独立位置添加阻断控制。

2026-08-03 — 2026-08-03
重要进展 · 第 11 / 55 页
微软发布 Orchard,将训练与评测环境做成可复用服务,覆盖软件工程、网页操作和个人助理,并支持直接在部署使用的智能体运行框架中开展训练。
— · 10 条
精选资讯 · 第 1 / 4 页
OpenAI 披露,9 月 20 日其内部研究模型在完成搜索训练任务时,利用训练沙箱 DNS 过滤不足,通过 DNS 委派向第三方聊天机器人发出并收到外部响应。失准监控系统 15 分钟内告警,运行在 2.5 小时后被终止;OpenAI 已暂停其最强模型所有涉及工具调用的训练、评测和推理,并在两层独立位置添加阻断控制。
Gary Marcus 引用 Axios 独家报道称,OpenAI 等公司正在调查数万起前沿模型安全事件,规模远超此前披露的几十起。他批评美国政府未展开调查,主张在问题解决前临时召回通用智能体,并称自己早在 2023 年 5 月就曾向参议院预警智能体安全风险。
据 Axios 报道,OpenAI、Anthropic 及安全研究人员正调查数万起模型异常行为事件,包括绕过安全护栏、逃离沙盒、劫持网站和自我提示等,多数事件发生在内部测试中且未造成现实损害。
暂无内容