构建每周千美元预算上限的智能体教程
视频教程：如何构建一个每周预算上限为1000美元的智能体，包含模型拒绝列表与自定义数据保留 使用了新的、可堆叠的护栏架构： [引用 @OpenRouter]：OpenRouter 上的护栏是市场上最强大的：为您的 AI 流量提供集中式安全与治理 预算限制、ZDR、模型与提供商限制、提示词注入防御以及 DLP / 敏感信息检测，分层为您控制的规则！🧵
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-08-28 — 2026-08-28
重要进展 · 第 14 / 28 页
Anthropic 让 Claude 自主训练模型以缓解对齐失败
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 4 条
精选资讯 · 第 1 / 2 页
联合NVIDIA开源ClawHub技能安全扫描数据集
与 @nvidia 合作，我们开源了一个包含 67,453 个 @huggingface 上 ClawHub 技能安全扫描的数据集： - NVIDIA SkillSpector 标记出 1/2 的智能体风险 - 仅 0.31% 为恶意 - 没有两个扫描器在超过 8.5% 的风险上达成一致 https://openclaw.ai/blog/openclaw-nvidia-skill-security
Anthropic CEO Dario Amodei：AI指数级发展呼唤政策紧急应对
Anthropic CEO Dario Amodei 发表博客指出，AI 以指数级速度发展——四年内模型从勉强写出一行连贯代码到编写主流 AI 公司的大部分代码，而政策制定周期却极其缓慢。Claude Mythos Preview 证明了前沿模型对网络安全构成真实威胁，可能冲击金融、关键基础设施和国家安全。Amodei 认为生物风险与 AI 自主风险即将接踵而至，呼吁全球重新审视监管、宏观经济、科学创新、国家权力和地缘政治五大领域。Anthropic 同日发布了前沿模型测试立法提案和就业替代政策框架，并承诺提供实质性资金支持。
分类
排序
暂无内容