使用大语言模型保障源代码安全
本文分享了使用 Claude Opus 构建威胁模型、发现代码漏洞并进行验证、分类和修复的最佳实践。其核心流程是一个六步循环：威胁建模、沙箱隔离、漏洞发现、验证、分类和修复。作者指出，漏洞发现现在易于并行化，瓶颈已转移到后续的验证与处理阶段。以他们对开源软件的扫描为例，截至2026年5月22日已披露1,596个漏洞，其中97个已修补。指南建议结合代码库文档和专家访谈来构建准确的威胁模型，以降低误报，提升发现的可利用性。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-08-28 — 2026-08-28
重要进展 · 第 14 / 28 页
Anthropic 让 Claude 自主训练模型以缓解对齐失败
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 10 条
精选资讯 · 第 1 / 4 页
OpenAI产品支持私有MCP服务器安全连接
您的团队可以在内部网络中保留MCP服务器，同时ChatGPT、Codex和Responses API通过仅出站HTTPS进行连接。
AI智能体的零信任安全框架
Anthropic 发布了针对企业部署自主 AI 智能体的安全框架，指出前沿大语言模型正将漏洞利用周期从数月压缩至数小时。部署智能体面临双重风险：基础设施易受 AI 加速攻击，且智能体自身具备自主决策与执行能力。文章提出一个三层零信任架构（基础、高级、优化级）及八阶段实施流程，并概述了提示注入、工具投毒、记忆投毒等特有威胁。
分类
排序
暂无内容