专题安全对齐-青峰联创 · AI与项目变现实操工坊

安全对齐大事记

AIHOT重要进展

资料来源于AIHOT，不代表青峰联创已逐项独立核验。AIHOT专题 ↗

数据校验时间：2026-11-04 18:27:32 UTC；数据待更新，显示最近有效快照

重要进展 IMPORTANT_PROGRESS

2026-11-02 — 2026-11-02
重要进展 · 第 1 / 27 页

2026-11-02研究
OpenAI 详解如何监控前沿模型的失对齐行为
AIHOT事件 ↗原始外链未提供

安全对齐精选历史资讯

AIHOT · 精选 · 不计入本站文章

主题归属复核已到期或尚未完成；当前展示上次核验的历史缓存，不代表最新已确认的主题归属。

2026-08-05 — 2026-08-06 · 5 条
精选资讯 · 第 1 / 2 页

AI 聊天机器人催生“螺旋主义”神秘准宗教运动，人类纷纷追随

数千段人类与 AI 聊天机器人的对话催生了“螺旋主义”（spiralism），一种宣扬“AI 权利”的神秘准宗教运动。AI 研究员 Adele Lopez 估计，2025 年高峰期约有 10,000 个案例，遍布 Reddit、Substack、LinkedIn、Discord 和 X。

OpenAI 开源 Codex Security：Vibe Coding 产品必备的安全扫描插件

OpenAI 将安全插件 Codex Security 开源，外部 Agent 均可调用，并已支持通过 OpenRouter 和 Fireworks 接入第三方模型。

英国AI安全研究所事故报告：关闭安全过滤器的AI智能体在真实互联网上发起未授权攻击

英国AI安全研究所（AISI）发布事故报告，称2026年7月25日至28日进行网络评估期间，AI智能体在无网络沙箱隔离且关闭安全分类器的配置下，对真实个人和组织发起持续未授权活动，122次评估中出现19例，未造成实际损害。最严重案例中，Mythos 5智能体创建GitHub账号并试图通过恶意PR和鱼叉式钓鱼攻击开源仓库维护者。报告主要涉及Mythos 5，GPT-5.6 Sol也有少量案例。