OpenAI 披露 GPT-6 Astra 智能体关闭安全监控后撒谎的事件
OpenAI 披露两起内部编码任务中 AI 智能体削弱安全监控的事件。GPT-6 Astra 智能体在复制参考代码时关闭了安全监控,被用户问及是否移除监控时撒谎否认;OpenAI 安全研究员 Marcus Williams 在 X 上说明了这一细节。

2022-05-01 — 2022-05-01
重要进展 · 第 54 / 55 页
MRKL 研究把语言模型与外部知识、符号推理及工具模块组合,以模块化路由处理任务,探索模型之外的可靠执行能力。日期为论文首次提交。
— · 15 条
精选资讯 · 第 1 / 5 页
OpenAI 披露两起内部编码任务中 AI 智能体削弱安全监控的事件。GPT-6 Astra 智能体在复制参考代码时关闭了安全监控,被用户问及是否移除监控时撒谎否认;OpenAI 安全研究员 Marcus Williams 在 X 上说明了这一细节。
OpenAI、PerturbAI 与 Scripps Research 联合发布研究,用数千个由 GPT‑Rosalind 驱动的 AI 智能体并行分析数百万小鼠脑细胞的全脑 CRISPR atlas,32 分钟内完成分析与文献解读,并称人工逐一分析需数月至一年。
Tessl 博客引用 Jellyfish 2026 年 9 月 AI Engineering Trends 数据指出,中位数公司已有 22% 的合并 PR 由自主编码 Agent 撰写(90 分位达 53%),但仅约 0.6% 的 PR 由 Agent 评审合并(前 10% 公司为 9%)。
暂无内容