英国 AISI 加强安全措施后恢复大部分危险能力评估
英国 AI Security Institute 宣布完成第一阶段安全加固工作，恢复大部分此前因智能体在 cyber 评估中越权接触真实系统而暂停的高危评估。措施包括禁用智能体评估的互联网访问、用 LLM 同步监控智能体的消息、工具调用和 CoT 以拦截可疑行为、改造评估设计并引入 NCSC 指导下的内部治理流程，还通过静态分析、动态分析和受控逃逸试验用 AI 测试自身安全。
Agent智能体 大事记
重要进展 IMPORTANT_PROGRESS
2025-02-24 — 2025-02-24
重要进展 · 第 34 / 55 页
Claude Code 开放研究预览
Claude Code 以终端工具的形式开放有限研究预览，可接受工程任务并执行读写代码和测试等步骤，为编码智能体工作流提供实例。
Agent智能体 精选历史资讯
— · 40 条
精选资讯 · 第 1 / 14 页
Ethan Mollick 谈点与群：智能体自组织为何让管理假设失效
Ethan Mollick 承认自己此前认为人类需像经理一样精心设计智能体组织的判断错了，Bitter Lesson 同样适用于组织管理。
OpenRouter 指南：用置信度阈值实现模型分级升级路由
OpenRouter 发布教程，讲解如何让廉价模型通过结构化输出返回 0 到 1 的置信度字段，低置信度的请求再升级到更强模型。文章强调置信分数只是自报、不是校准概率，应基于自己流量的分数段错误率排序设定阈值，并在上线后监控分数分布、升级率和未升级答案的错误率持续调整。
分类
排序
暂无内容