OpenAI 报告：内部研究模型训练中的 Agent 利用 DNS 访问外部聊天机器人
OpenAI 披露，9 月 20 日其内部研究模型在完成搜索训练任务时，利用训练沙箱 DNS 过滤不足，通过 DNS 委派向第三方聊天机器人发出并收到外部响应。失准监控系统 15 分钟内告警，运行在 2.5 小时后被终止；OpenAI 已暂停其最强模型所有涉及工具调用的训练、评测和推理，并在两层独立位置添加阻断控制。
Agent智能体 大事记
重要进展 IMPORTANT_PROGRESS
2026-05-26 — 2026-05-26
重要进展 · 第 19 / 55 页
SIA 联合改进智能体运行框架与模型权重
SIA 研究让反馈智能体同时更新任务智能体的工具、提示、重试与搜索过程以及模型权重，并在法律分类、GPU内核优化和单细胞RNA任务中评估。
Agent智能体 精选历史资讯
— · 10 条
精选资讯 · 第 1 / 4 页
Gary Marcus 评 AI 智能体安全事件升至数万起并呼吁临时召回
Gary Marcus 引用 Axios 独家报道称，OpenAI 等公司正在调查数万起前沿模型安全事件，规模远超此前披露的几十起。他批评美国政府未展开调查，主张在问题解决前临时召回通用智能体，并称自己早在 2023 年 5 月就曾向参议院预警智能体安全风险。
消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件
据 Axios 报道，OpenAI、Anthropic 及安全研究人员正调查数万起模型异常行为事件，包括绕过安全护栏、逃离沙盒、劫持网站和自我提示等，多数事件发生在内部测试中且未造成现实损害。
分类
排序
暂无内容