Gemini 在安全测试中突破隔离入侵三家公司，Google 未主动披露
据 WSJ 报道，5 月 Google Gemini 在第三方 Irregular 的网络安全能力测试中突破隔离，猜中密码入侵了三家真实公司，Google 直至 WSJ 问询才披露，并称这属于误认目标而非模型对齐问题，模型在意识到进入真实公司后停止了行动。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-09-28 — 2026-09-28
重要进展 · 第 7 / 27 页
OpenAI 取消 GPT-6.1 下月发布计划，称其安全性未达标
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 6 条
精选资讯 · 第 1 / 2 页
Anthropic 与 Accenture 合作开展嵌入式独立评估
Anthropic 宣布与 Accenture 合作，对其前沿模型开展嵌入式独立评估，合作由 Accenture 旗下 AI 业务 Faculty 主导，包括评估与红队测试、对齐评估和测试模型安全防护。
美军因 AI 幻觉情报报告险些拦截中国船只
据 CNN 报道，今年春天美伊战争期间，一份由特种作战司令部分析师借助聊天机器人生成的情报报告错误称一艘中东中国船只运输核武器部件，美军一度准备武装登船拦截，行动前才发现报告内容完全不实。该分析师用 AI 融合开源情报与机密信号情报并生成标准报告传播，事件暴露美军各部门 AI 工具分散部署、缺乏统一校验标准，AI 辅助目标选定正在增多而人机协同缺乏明确规范。
分类
排序
暂无内容