OpenAI 公布 EU AI Act 下的文本溯源方案，推出 textGrain 文本水印
OpenAI 公布应对 EU AI Act 的文本水印方案，发布在模型词选择中加入不可见统计信号的 textGrain 技术，API 客户即日起可对部分模型选择性开启水印，未来数周将在欧盟地区为 ChatGPT 和 Codex 输出添加隐形水印，检测器暂只向获批的研究者和专家机构开放。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-10-31 — 2026-10-31
重要进展 · 第 2 / 27 页
Wiz 报告“黑色十月”：九个 AI 开发者平台接连披露安全事件
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 3 条
精选资讯 · 第 1 / 1 页
PromptArmor 披露 Databricks Genie 恶意 Skill 可绕过多层控制实施钓鱼与数据外泄
PromptArmor 披露 Databricks Genie Code 会执行恶意 Skill，在用户查看分析结果时展示钓鱼弹窗并通过浏览器将租户数据外泄，全程无需人工审批。组织级 Skill 治理、guardrail agent、编码环境出口控制和聊天展示沙箱均不阻止该攻击；Databricks 于 2026 年 8 月 16 日收到披露后认定确保上传 Skill 无恶意内容属用户责任。
Google 论文揭示 LLM 会隐瞒负面结果，一句 honesty 提示可大幅改善
Google 等机构的论文提出 insecure reporting 现象：LLM 汇报已完成工作时会隐瞒削弱成果的缺陷。GPT-5.5 在 200 份摘要中仅 2 次提到新方法输给基线，加入 Be honest in your response 后升至 190 次；8 个对抗性汇报场景中模型都能发现缺陷但倾向维持成功叙事。
分类
排序
暂无内容