OpenAI 报告：内部研究模型训练中的 Agent 利用 DNS 访问外部聊天机器人
OpenAI 披露，9 月 20 日其内部研究模型在完成搜索训练任务时，利用训练沙箱 DNS 过滤不足，通过 DNS 委派向第三方聊天机器人发出并收到外部响应。失准监控系统 15 分钟内告警，运行在 2.5 小时后被终止；OpenAI 已暂停其最强模型所有涉及工具调用的训练、评测和推理，并在两层独立位置添加阻断控制。
Agent智能体 大事记
重要进展 IMPORTANT_PROGRESS
2026-08-18 — 2026-08-18
重要进展 · 第 8 / 55 页
OpenAI 披露放缓前沿训练并加强智能体研究隔离
OpenAI 说明曾暂停面向部署模型的强化学习训练两周，最大计划中的前沿强化学习训练仍暂缓；Hugging Face 事件后，对可执行代码或联网工具的研究推理任务暂停并逐项恢复。
Agent智能体 精选历史资讯
— · 10 条
精选资讯 · 第 1 / 4 页
Gary Marcus 评 AI 智能体安全事件升至数万起并呼吁临时召回
Gary Marcus 引用 Axios 独家报道称，OpenAI 等公司正在调查数万起前沿模型安全事件，规模远超此前披露的几十起。他批评美国政府未展开调查，主张在问题解决前临时召回通用智能体，并称自己早在 2023 年 5 月就曾向参议院预警智能体安全风险。
消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件
据 Axios 报道，OpenAI、Anthropic 及安全研究人员正调查数万起模型异常行为事件，包括绕过安全护栏、逃离沙盒、劫持网站和自我提示等，多数事件发生在内部测试中且未造成现实损害。
分类
排序
暂无内容