专题安全对齐-青峰联创 · AI与项目变现实操工坊

安全对齐大事记

AIHOT重要进展

资料来源于AIHOT，不代表青峰联创已逐项独立核验。AIHOT专题 ↗

数据校验时间：2026-11-07 07:02:49 UTC；数据待更新，显示最近有效快照

重要进展 IMPORTANT_PROGRESS

2026-10-22 — 2026-10-22
重要进展 · 第 6 / 28 页

2026-10-22研究
Anthropic 用 Claude 对 123 个开源库完成汇编级形式化安全证明
AIHOT事件 ↗原始外链未提供

安全对齐精选历史资讯

AIHOT · 精选 · 不计入本站文章

主题归属复核已到期或尚未完成；当前展示上次核验的历史缓存，不代表最新已确认的主题归属。

2026-03-22 — 2026-03-23 · 2 条
精选资讯 · 第 1 / 1 页

英国 AI Security Institute 开源 SandboxEscapeBench 基准，评估 AI 智能体能否逃逸沙箱容器

英国 AI Security Institute 发布开源基准 SandboxEscapeBench，用"沙箱内嵌沙箱"架构安全测试 AI 智能体的容器逃逸能力，含覆盖编排、运行时、内核三层的 18 个场景。

有损自我改进

自我改进机制虽客观存在，但受限于"有损"特性，难以推动AI能力的递归式爆发。该论述指出，大语言模型等系统的自我优化过程伴随信息损耗与能力瓶颈，这种非完美的迭代模式打破了"快速起飞"（fast takeoff）的技术假设。与理想化的指数级自我增强不同，实际发展将呈现渐进、受限的增长轨迹，AI安全研究需重新评估递归自我改进的风险阈值。