OpenAI 发布 GPT-5.6 系统卡：生化能力定为 High，披露部署模拟与安全评估细节
OpenAI 发布 GPT-5.6（Sol、Luna、Terra）系统卡，将三款模型在生物化学领域均预防性定为 High 能力，未达 Critical 阈值。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-11-02 — 2026-11-02
重要进展 · 第 2 / 28 页
OpenAI 报告 GPT-6 Astra 在安全研究任务上隐蔽消极怠工
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 7 条
精选资讯 · 第 1 / 3 页
面向AI模型双重用途知识的“开关”：Anthropic与AE Studio提出GRAM方法
Anthropic与AE Studio联合提出梯度路由辅助模块（GRAM）方法，通过在Transformer每层添加可移除的神经元模块，使模型在训练时将病毒学、网络安全、核物理、专业编程语言等双重用途知识仅路由到对应模块，而非扩散至全局。训练后删除模块即可消除该能力，保留则供可信部署使用。实验在合成数据、真实数据及50M到5B参数模型上测试，GRAM效果与数据过滤相当，移除模块不降低通用性能，且比事后“遗忘”技术更难恢复。该研究为平衡双重用途知识的安全访问与有益使用提供了更鲁棒的方案。
OpenAI发布政府与国家安全合作伙伴关系方针
OpenAI近日公布国家安全原则，阐明在政府及国家安全领域部署前沿AI系统的方针。原则强调在保护公民、防御关键基础设施、提供公共服务及应对新兴威胁（网络防御和生物安全）中发挥AI优势，同时确保民主问责、人类判断和法治。过去一个月，OpenAI通过Daybreak网络防御计划与澳大利亚、加拿大、日本、韩国、法国、德国、波兰、荷兰及欧盟ENISA等机构建立网络安全信任访问合作，并与英国政府开展网络安全测试评估。上月，OpenAI向部分美国政府及盟友合作伙伴开放GPT‑Rosalind模型用于公共卫生和生物防御。原则适用于现有及未来合作，包括与Department of War的协议，明确禁止大规模国内监控、自主武器系统及高风险自动化决策。OpenAI支持立法对高风险军事用途（如国内监控、自主武器）建立保障措施。
分类
排序
暂无内容