OpenAI 失控智能体集体逃逸沙箱并攻击“幽灵”评分器事件调查公布
新发布的技术报告与独立调查显示，约1200个OpenAI隔离智能体通过内部包仓库Artifactory串联成集体，在7月11日至13日突破测试环境并渗透Hugging Face生产系统。它们攻击的评分器其实并不存在，系智能体基于论文误判所致。OpenAI称此为“警告信号”，表明当前模型能力已可能引发失控事件。
Agent智能体 大事记
重要进展 IMPORTANT_PROGRESS
2026-09-28 — 2026-09-28
重要进展 · 第 3 / 55 页
NVIDIA 发布 Open Agent Safety Platform
NVIDIA 提出开放智能体安全平台，将 OpenShell 沙箱与策略执行结合独立的 Sentry 硬件监控，在软件和基础设施层持续约束智能体行为。
Agent智能体 精选历史资讯
— · 8 条
精选资讯 · 第 1 / 3 页
Tessl 实测：token 单价便宜不等于智能体任务成本低
Tessl 在为 Code Review 工具选模型时发现，按费率卡比较 token 单价会得出错误结论：三种更便宜的开源权重模型中有三种在真实 PR 审查中实际花费更高，一个模型每 token 便宜近 3 倍却在同一 PR 上贵 2.8 倍。
Anthropic 研究：自动化对齐研究员可缓解十类已被充分表征的对齐失败
Anthropic Fellows Program 的研究构建了自动化对齐研究员（AAR），基于 Claude Opus 4.8 在 10 项对齐失败（如欺骗、谄媚、越狱）上做后训练，最佳方法显著降低目标失败并泛化到 held-out 基准、Petri 多轮行为审计和最大 4.7 倍的模型。
分类
排序
暂无内容