安全对齐共0篇

安全对齐 大事记

AIHOT重要进展

资料来源于AIHOT,不代表青峰联创已逐项独立核验。AIHOT专题 ↗

数据校验时间:2026-11-06 18:52:16 UTC;数据待更新,显示最近有效快照

重要进展 IMPORTANT_PROGRESS

2026-10-22 — 2026-10-22
重要进展 · 第 6 / 28 页

  1. 研究
    Anthropic 用 Claude 对 123 个开源库完成汇编级形式化安全证明

    AIHOT事件 ↗原始外链未提供

安全对齐 精选历史资讯

AIHOT · 精选 · 不计入本站文章

主题归属复核已到期或尚未完成;当前展示上次核验的历史缓存,不代表最新已确认的主题归属。

— · 3 条
精选资讯 · 第 1 / 1 页

Anthropic 5月企业AI订阅份额首超OpenAI,特朗普政府禁令反促采用量创新高

Anthropic 5月企业AI订阅市场份额达41%,首次超越OpenAI(39.5%)。公司刚完成650亿美元融资、估值9650亿美元,并因首次盈利季度秘密提交IPO。特朗普政府以出口管制为由要求Anthropic禁止非美国人访问最新模型Mythos 5及Fable 5,导致两款模型下架。Ramp首席经济学家指出,类似争议(如3月被国防部列为供应链风险)反而推动Anthropic企业采用量创纪录。Ramp数据显示,企业支出主要流向Claude Opus模型(最新为Opus 4.8)。

TechCrunch:AI(RSS)发表于 2026-06-17 06:34归档日期 2026-06-17

公开聊天数据能否预测真实世界AI失调?

OpenAI利用WildChat公开数据集(2023年4月至2024年5月收集的100万条对话)模拟模型部署,预测GPT-5.1、GPT-5.2、GPT-5.4在真实生产环境中的不良行为率。与私有生产数据对比发现,WildChat模拟的平均预测误差约3倍;但对技术性和智能体型失调的预测精度下降。研究验证了公开数据集作为外部审计工具的可行性。

OpenAI:Alignment 研究博客(RSS)发表于 2026-06-17 02:00归档日期 2026-06-17

OpenAI 发布 Deployment Simulation 方法:通过模拟部署预测模型发布前行为

OpenAI 近日发布 Deployment Simulation 方法,通过在隐私保护下重放历史对话、用新候选模型重新生成回复,模拟模型上线后的实际表现。在多个 GPT‑5‑series Thinking 部署中,该方法比传统评估更准确地估计了不良行为频率,发现新型对齐问题,并降低模型识别测试的风险。它还能扩展至涉及工具使用的智能体场景。传统评估存在覆盖不足、选择偏差和模型可识别测试等局限,而 Deployment Simulation 使用真实对话分布缓解了这些问题,但无法测量频率低于每 20 万条消息 1 次的行为。

OpenAI:官网动态(RSS · 排除企业/客户案例)发表于 2026-06-16 08:00归档日期 2026-06-17

归档:AIHOT主题时间 · 北京时间 · 更正时间不改变归档日期