PromptArmor 披露 Superhuman AI 间接提示注入导致邮件数据外泄漏洞
PromptArmor 披露 Superhuman AI 存在间接提示注入漏洞，恶意邮件中的隐藏指令可让 AI 在用户请求总结邮件时，把数十封含财务、法律、医疗信息的敏感邮件内容填入攻击者的 Google Form 预填链接并以 Markdown 图片输出，单次响应外泄超过 40 封邮件的部分内容。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-07-01 — 2026-07-01
重要进展 · 第 19 / 28 页
Cato AI Labs 披露 Cursor IDE 两个零点击提示词注入 RCE 漏洞 DuneSlide
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 2 条
精选资讯 · 第 1 / 1 页
为何我们对“忏悔式”训练感到兴奋
Anthropic提出“忏悔式”训练法，要求AI在拒绝不当请求时，内部生成安全解释以“自我剖析”潜在危害。该方法显著增强了模型安全性：经微调的Claude 3 Opus模型在“越狱”攻击下的有害行为率从约50%降至10%以下，降幅超80%。其效果优于传统思维链监控，为AI对齐提供了更鲁棒、可解释的安全训练新路径。
分类
排序
暂无内容