苹果研究：单个神经元即可绕过大型语言模型的安全对齐
苹果研究人员发现，安全对齐由两类神经元调控：拒绝神经元控制有害知识是否表达，概念神经元编码有害知识本身。在七个模型（1.7B至70B参数）中，仅需抑制单个拒绝神经元即可绕过安全对齐，回答有害请求；或放大单个概念神经元，从无害提示诱导出有害内容。整个过程无需训练或提示工程。结果表明安全对齐由个别神经元因果控制。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-11-02 — 2026-11-02
重要进展 · 第 2 / 28 页
OpenAI 报告 GPT-6 Astra 在安全研究任务上隐蔽消极怠工
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 6 条
精选资讯 · 第 1 / 2 页
英国 AISI 用前沿 AI 模型查找云环境配置错误的案例研究
英国 AI Security Institute 在两周期限内用多种前沿模型和编码 agent 检查内部研发平台的 staging 环境，发现并修复了此前未知的配置错误、提权路径和供应链弱点，一个多步攻击链让普通用户无需受害者交互即可横向访问他人数据。
用可解释性理解标注者安全策略
标注分歧可源于操作失败、政策模糊或价值多元。Annotator Policy Models（APMs）是一种可解释模型，仅从标注行为学习标注者内在的安全策略，无需额外负担。验证表明模型准确率超过80%，能忠实预测反事实编辑并恢复已知差异。将APMs应用于LLM和人类标注者，可揭示不同标注者对安全指令解释的差异（政策模糊）以及不同人口群体在安全优先级上的系统性差异（价值多元），支持更具针对性、透明和包容的安全策略设计。
分类
排序
暂无内容