安全对齐 大事记
AIHOT重要进展资料来源于AIHOT，不代表青峰联创已逐项独立核验。AIHOT专题 ↗
数据校验时间：2026-11-06 18:52:16 UTC；数据待更新，显示最近有效快照
重要进展 IMPORTANT_PROGRESS
2026-08-28 — 2026-08-28
重要进展 · 第 14 / 28 页
研究
Anthropic 让 Claude 自主训练模型以缓解对齐失败
安全对齐 精选历史资讯
AIHOT · 精选 · 不计入本站文章主题归属复核已到期或尚未完成；当前展示上次核验的历史缓存，不代表最新已确认的主题归属。
— · 9 条
精选资讯 · 第 1 / 3 页
Anthropic 分析 2025 年 3 月至 2026 年 3 月间 832 个被封禁的恶意账户，映射至 MITRE ATT&CK 框架。67.3% 使用 AI 编写恶意软件，6.5% 用于横向移动。六个月间中高风险攻击者占比从 33% 升至 56%。AI 用于账户发现增长 8.9%，AI 辅助钓鱼下降 8.6%。传统基于技术数量或平台（Claude Code、API、聊天界面）的威胁评估失效，而 MITRE ATT&CK 框架尚未收录此类智能体编排行为。
OpenAI 发布 GPT-Rosalind-5.5 系统卡，该模型从 GPT-5.5 增量训练生命科学相关数据，不再拒绝复杂生物学查询，并以可信访问审查作为主要安全防护。
PromptArmor 披露 ChatGPT for Google Sheets 存在间接提示词注入漏洞，一次良性查询即可触发工作簿外泄、钓鱼弹窗、侧边栏劫持和恶意编辑，演示中共外泄 12 个工作簿，且在用户明确要求人工审批时攻击仍可成功。
