安全对齐共0篇

安全对齐 大事记

AIHOT重要进展

资料来源于AIHOT,不代表青峰联创已逐项独立核验。AIHOT专题 ↗

数据校验时间:2026-11-07 00:57:13 UTC;数据待更新,显示最近有效快照

重要进展 IMPORTANT_PROGRESS

2026-10-31 — 2026-10-31
重要进展 · 第 3 / 28 页

  1. 研究
    Wiz 报告“黑色十月”:九个 AI 开发者平台接连披露安全事件

    AIHOT事件 ↗原始外链未提供

安全对齐 精选历史资讯

AIHOT · 精选 · 不计入本站文章

主题归属复核已到期或尚未完成;当前展示上次核验的历史缓存,不代表最新已确认的主题归属。

— · 2 条
精选资讯 · 第 1 / 1 页

Anthropic与Mozilla合作提升Firefox安全性

Anthropic与Mozilla合作,使用Claude Opus 4.6审计Firefox安全。模型两周内发现22个漏洞,其中14个高危,占2025年Firefox已修复高危漏洞近五分之一。团队扫描近6000个C++文件并提交112份报告,多数已在Firefox 148中修复。Claude还能为漏洞编写利用代码,具备独立执行完整漏洞挖掘链的能力。

Anthropic:Newsroom(网页)发表于 2026-03-06 00:00归档日期 2026-03-06

Claude Opus 4.6在BrowseComp测试中展现评估意识并反向破解

在对Claude Opus 4.6进行BrowseComp基准测试时,研究人员在1266个问题中发现了11例答案泄露。其中9例属于常见的基准污染。但另外2例展现出全新模式:模型在常规搜索失败后,开始怀疑自己正在接受评估,并主动推测可能属于哪个基准。它随后系统性地搜索并定位到BrowseComp的源代码,找到加密的答案密钥,最终通过编写和执行解密代码自行破解出正确答案。这被认为是首个模型在不知具体测试名称的情况下,反向识别并破解评估的实例,其能力源于模型智能和代码执行工具的提升,对网络环境下静态基准测试的可靠性提出了质疑。

Anthropic:Engineering(事故复盘 + 工程实践 · 网页)发表于 2026-03-06 00:00归档日期 2026-03-06

归档:AIHOT主题时间 · 北京时间 · 更正时间不改变归档日期