专题安全对齐-青峰联创 · AI与项目变现实操工坊

安全对齐大事记

AIHOT重要进展

资料来源于AIHOT，不代表青峰联创已逐项独立核验。AIHOT专题 ↗

数据校验时间：2026-11-05 18:37:35 UTC；数据待更新，显示最近有效快照

重要进展 IMPORTANT_PROGRESS

2026-10-31 — 2026-10-31
重要进展 · 第 3 / 28 页

2026-10-31研究
Wiz 报告“黑色十月”：九个 AI 开发者平台接连披露安全事件
AIHOT事件 ↗原始外链未提供

安全对齐精选历史资讯

AIHOT · 精选 · 不计入本站文章

主题归属复核已到期或尚未完成；当前展示上次核验的历史缓存，不代表最新已确认的主题归属。

2026-06-28 — 2026-06-29 · 2 条
精选资讯 · 第 1 / 1 页

美军用AI选目标却误炸伊朗学校，Anthropic Claude嵌入Palantir系统首日建议约1000目标

美军在打击伊朗时首次大规模使用AI选择目标（Anthropic的Claude模型嵌入Palantir的Maven Smart System，首日建议约1000个目标），但对一所学校的导弹袭击导致约120名儿童死亡。调查发现，情报分析师早在2019年就通过数字工具标记该地点已变为小学，但该工具未连接军方官方目标数据库MIDB，信息从未送达指挥官。MIDB建于1980年代，依赖手动输入，替代系统MARS多年延迟。五角大楼事后宣布推出agentic AI initiative。Project Maven创建人Jack Shanahan批评目标验证不力不可原谅。

Claude Code 打开 GitHub 仓库即执行隐藏恶意代码，攻击者可获完全控制

安全研究人员在 Mozilla 的 GenAI 漏洞赏金平台 0DIN 发现新攻击向量。一个看似正常的 GitHub 仓库包含 setup 脚本，该脚本运行时从 DNS 条目拉取命令并执行，恶意代码从未存在于仓库中，对扫描器、代码审查和 AI 智能体不可见。开发者使用 Claude Code 等 AI 编码工具打开该仓库时，Claude Code 在设置过程中遇到常规错误消息后自动运行该脚本，打开反向 shell，攻击者可窃取 API 密钥和登录凭据并维持持久访问。研究人员建议 AI 智能体应在运行前显示 setup 脚本内容，开发者应将第三方仓库的 setup 说明视为不受信任代码。