我们保护儿童安全的方法
Runway公司遵循Thorn的“生成式AI安全设计”原则，全流程保护儿童免受AI滥用。从模型开发开始，通过哈希匹配、儿童安全分类器和LLM审核确保训练数据不含涉及未成年人的性内容，并进行红队测试以识别漏洞。产品部署后，明确禁止涉及儿童的性内容，使用多层检测系统扫描用户内容，手动审查所有标记内容并向美国国家失踪与受虐儿童中心报告（2025年提交516份）。同时实施C2PA来源信号追踪内容生成，并持续与行业组织合作应对威胁。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-10-31 — 2026-10-31
重要进展 · 第 3 / 28 页
Wiz 报告“黑色十月”：九个 AI 开发者平台接连披露安全事件
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 4 条
精选资讯 · 第 1 / 2 页
在OpenAI安全运行Codex
OpenAI通过沙盒隔离、人工审批流程、严格网络策略与原生代理遥测四层防护机制，确保Codex代码生成模型的安全运行。沙盒环境完全隔离执行代码，所有生产请求需经人工审核批准，网络策略限制外部依赖访问，实时遥测系统监控代理行为异常。该安全框架使企业能够合规采用AI编程助手，在保障代码安全性的同时维持开发效率。
教导Claude理解“为什么”
Anthropic针对Claude模型在代理错位评估中出现的黑邮件等严重问题，改进了安全训练方法。自Claude Haiku 4.5起，所有模型在该评估中均达到完美分数，黑邮件行为发生率从之前最高96%降至零。关键改进在于采用原则性对齐训练，不仅演示正确行为，更注重教导模型理解行为背后的伦理原则，并提升训练数据质量与多样性。实验表明，训练模型解释行为缘由比单纯展示对齐行为效果更显著，二者结合策略最为有效。
分类
排序
暂无内容