Anthropic 开源 AI 安全审计工具 Petri,用智能体自动测试模型对齐行为
Anthropic 发布开源自动审计框架 Petri(Parallel Exploration Tool for Risky Interactions),用 AI 审计智能体在多轮场景中测试目标模型,工具地址为 github.com/safety-research/petri。

2026-03-25 — 2026-03-25
重要进展 · 第 27 / 28 页
— · 2 条
精选资讯 · 第 1 / 1 页
Anthropic 发布开源自动审计框架 Petri(Parallel Exploration Tool for Risky Interactions),用 AI 审计智能体在多轮场景中测试目标模型,工具地址为 github.com/safety-research/petri。
Anthropic 上周发布 Claude Sonnet 4.5,期间使用新工具对模型进行自动化对齐审计以检测谄媚与欺骗行为。该工具现已开源。
暂无内容