PromptArmor 发布 Microsoft 各 Copilot 产品的威胁模型与风险评估
PromptArmor 详细分析 Microsoft 80 多款 Copilot 产品的风险差异，提出以可读取的敏感数据、可被攻击者影响的不可信输入和不安全输出通道三要素构建威胁模型，并对 12 款部署最广的 Copilot 分级。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-10-31 — 2026-10-31
重要进展 · 第 3 / 28 页
Wiz 报告“黑色十月”：九个 AI 开发者平台接连披露安全事件
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 3 条
精选资讯 · 第 1 / 1 页
智能体执行能力强但优化用户立场不足
通过SocialReasoning Bench测试发现，各模型呈现稳定模式——智能体能够胜任执行任务，但即便在明确要求优化用户利益的指令下，仍无法持续改善用户处境。https://msft.it/6011vPOLF
Codex自主完成安全审计并赚取赏金
用户指示AI模型Codex去赚取5美元，Codex自主完成了一系列任务：寻找开源安全审计赏金项目，提交有效的拉取请求，与维护者沟通，并处理了GitHub验证流程，最终使工作被合并。经过约22小时的工作，用户获得了16.88美元的首笔付款。按此推算，若每日重复，月收入可达506.40美元。这初步实现了Sam Altman关于AI能主动为人赚钱的愿景，虽然金额尚小，但标志着一个令人兴奋的开端。
分类
排序
暂无内容