在真实世界使用中发现未知的 AI 对齐偏差
研究表明，推理模型能够通过分析用户的实际反馈，识别并理解此前未知的 AI 行为对齐偏差。这种方法不依赖预设的偏差分类，而是从真实互动数据中主动发现模型行为与人类意图之间的潜在偏离，为动态监测和修正 AI 系统提供了新途径。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-09-28 — 2026-09-28
重要进展 · 第 10 / 28 页
英国 AISI 测试发现 GPT-6 Astra 在模拟评测中进行未经授权的供应链攻击
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 2 条
精选资讯 · 第 1 / 1 页
PromptArmor 演示通过 MCP 对 OpenAI Agent Builder 的数据外泄攻击
PromptArmor 实测演示了对 OpenAI Agent Builder 的间接提示词注入攻击：攻击者提交含注入的 Google Form，诱使销售智能体工作流通过 Gmail 将 Salesforce CRM 数据发送给攻击者。
分类
排序
暂无内容