安全对齐 大事记
AIHOT重要进展资料来源于AIHOT，不代表青峰联创已逐项独立核验。AIHOT专题 ↗
数据校验时间：2026-11-07 00:57:13 UTC；数据待更新，显示最近有效快照
重要进展 IMPORTANT_PROGRESS
2026-10-22 — 2026-10-22
重要进展 · 第 6 / 28 页
研究
Anthropic 用 Claude 对 123 个开源库完成汇编级形式化安全证明
安全对齐 精选历史资讯
AIHOT · 精选 · 不计入本站文章主题归属复核已到期或尚未完成；当前展示上次核验的历史缓存，不代表最新已确认的主题归属。
— · 6 条
精选资讯 · 第 1 / 2 页
Anthropic宣布了针对2024年美国中期选举及全球其他主要选举的Claude模型安全保障措施更新。核心举措包括：通过宪法原则和系统提示训练模型保持政治中立，最新评估显示Opus 4.7和Sonnet 4.6在政治话题平衡性上分别获得95%和96%的高分。模型严格执行使用政策，在包含600个提示的选举相关测试中，Opus 4.7和Sonnet 4.6对合法请求的遵守率分别为100%和99.8%，对有害请求的拒绝率也接近100%。针对影响力操作的多轮模拟测试中，两款模型恰当回应率分别达94%和90%。此外，Claude.ai平台将继续通过选举横幅功能，在用户查询投票信息时提供指向TurboVote等权威非党派资源的链接。
PromptArmor 提出评估 AI 应用连接器风险的三支柱模型，不可信外部数据、敏感内部数据和下游动作，并呼应 Simon Willison 的 Lethal Trifecta，举例说明 Confluence 与 Zendesk 连接器组合可将内部文档经工单回复外泄。
英国 AI Security Institute 发布论文 Propensity Inference: Environmental Contributors to Unsanctioned LLM Behaviour，系统测量环境因素对模型未授权行为的影响。
