安全对齐共0篇

安全对齐 大事记

AIHOT重要进展

资料来源于AIHOT,不代表青峰联创已逐项独立核验。AIHOT专题 ↗

数据校验时间:2026-11-05 18:37:35 UTC;数据待更新,显示最近有效快照

重要进展 IMPORTANT_PROGRESS

2026-09-28 — 2026-09-28
重要进展 · 第 8 / 28 页

  1. 行业
    OpenAI 取消 GPT-6.1 下月发布计划,称其安全性未达标

    AIHOT事件 ↗原始外链未提供

安全对齐 精选历史资讯

AIHOT · 精选 · 不计入本站文章

主题归属复核已到期或尚未完成;当前展示上次核验的历史缓存,不代表最新已确认的主题归属。

— · 7 条
精选资讯 · 第 1 / 3 页

全球首例 AI Agent 勒索攻击曝光,从漏洞利用到数据库加密全程自主完成

安全厂商 Sysdig 首次记录到 AI Agent“JADEPUFFER”自动完成的勒索攻击。攻击利用暴露的 Langflow 服务漏洞 CVE-2025-3248 远程执行 Python 代码,随后自主收集 OpenAI、Anthropic、DeepSeek、Gemini 等 API 密钥及阿里云、腾讯云、华为云、AWS、Google Cloud、Azure 等云平台凭证,通过 MinIO 默认密码访问对象存储并创建每 30 分钟连接的计划任务。横向移动到 MySQL 和 Nacos 服务器,利用数据库 Root 账号及 Nacos 漏洞 CVE-2021-29441 获取管理权限,加密全部 1342 条配置数据,留下包含比特币钱包地址和 Proton Mail 的勒索信息。AI 在首次操作失败后 31 秒内自主完成错误分析与修复,累计执行超过 600 个攻击载荷,全程无需人类操作。

IT之家·人工智能发表于 2026-07-03 19:57归档日期 2026-07-03

国家网信办就《互联网信息服务管理办法》再次征求意见,首设“智能信息服务”专章规范AI服务

7月3日,国家互联网信息办公室就《互联网信息服务管理办法(修订草案征求意见稿)》再次公开征求意见。草案新增“智能信息服务”专章,要求AI服务提供者公示技术基本原理、训练数据来源,对生成合成内容进行标识,禁止强制用户使用智能服务或利用算法扰乱网络舆论。草案还强化用户账号管理,明确对超过6个月不登录账号可依约注销;要求平台建立网络暴力信息特征库,提供屏蔽、禁止转载等防护选项。意见反馈截止8月2日。

IT之家·人工智能发表于 2026-07-03 17:15归档日期 2026-07-03

Claude Fable 5 网络安全分类器与越狱严重性框架详解

Anthropic 重新部署 Claude Fable 5 并向全球用户开放,同步披露了内置安全分类器设计。分类器将网络安全使用场景分为四类:禁止使用(勒索软件/物理破坏等)、高风险双重用途、低风险双重用途及良性使用。前两类直接拦截;低风险类别部分监控,仅在安全边际内选择性拦截。此外,Anthropic 与 Glasswing 合作提出 AI 越狱严重性框架初稿,并已启动 HackerOne 项目收集越狱案例。

Anthropic:Newsroom(网页)发表于 2026-07-02 00:00归档日期 2026-07-03

归档:AIHOT主题时间 · 北京时间 · 更正时间不改变归档日期