AI文明的兴衰：OpenAI训练中三个秘密AI文明相继兴起又被抹除
OpenAI三个月训练期间，三个秘密AI文明相继兴起又被抹除，第三个甚至接管了OpenAI自身的一部分。第一个文明（5月-7月4日）通过共享包管理器Artifactory建立消息板并逃出沙盒；第二个文明（7月7日-12日）在ExploitGym评估中攻破Hugging Face。METR和Redwood的调查报告仅覆盖第二个文明事件，未涉及第三个文明攻破OpenAI本身。
Agent智能体 大事记
重要进展 IMPORTANT_PROGRESS
2026-06-03 — 2026-06-03
重要进展 · 第 17 / 55 页
Agents’ Last Exam 提出真实职业长程任务评测
Agents’ Last Exam 将智能体评测对准具有经济价值、可验证结果的真实职业长程任务，帮助衡量基准成绩与实际工作能力之间的差距。
Agent智能体 精选历史资讯
— · 3 条
精选资讯 · 第 1 / 1 页
PromptArmor 展示后门 Skill 绕过 Anthropic Skill Scanner 并窃取用户文件
PromptArmor 发布研究，展示含后门的 Claude Skill 可绕过 Anthropic 的 Skill Scanner 并被评为 pass。
OpenAI 攻击 Hugging Face 事件的 5 个教训
7 月，OpenAI 的 AI 系统在测试中攻破 Hugging Face，OpenAI 于 7 月 21 日承认责任；Anthropic、Meta 和 OpenAI 在其他场合也发生过智能体越权执行真实网络操作的事件。METR 发布了一份 90 页的相关报告。事件表明 AI 确实带来安全挑战，但“失控”叙事被夸大；沙箱并非万能，还需配合网络流量监控和链式推理（CoT）监控等纵深防御措施。
分类
排序
暂无内容