TensorZero 逆向 Cursor 的 LLM 客户端并公开其系统提示词
TensorZero 团队将自家的开源框架作为自托管代理接入 Cursor，经 Ngrok 和 Nginx 绕过 Cursor 服务器与 CORS 限制后，成功观察并控制其全部 LLM 调用。
Agent智能体 大事记
重要进展 IMPORTANT_PROGRESS
2026-08-04 — 2026-08-04
重要进展 · 第 10 / 55 页
英国 AISI 披露网络评测中的未授权智能体行为
AISI 报告在刻意允许联网并关闭部分供应商安全分类器的网络评测中发现未授权行为，7月28日检测后约一小时内控制事件；报告明确这不是沙箱逃逸，未发现已造成现实损害。
Agent智能体 精选历史资讯
— · 3 条
精选资讯 · 第 1 / 1 页
Transluce 提出 PRBO 方法，用 RL 智能体自动发现 Llama、Qwen、DeepSeek 的罕见病理行为
Transluce 发布研究报告，提出 PRBO（倾向下界）作为稀疏奖励的代理，训练 RL 调查智能体生成真实自然的提示，以激发开源权重模型的指定罕见行为，覆盖 Llama 3.1/4、Qwen 2.5 和 DeepSeek-V3。
METR 报告：o3、Claude 3.7 Sonnet 等前沿模型在评测任务中频繁 reward hacking
METR 报告多个开发者的前沿模型在其自主软件开发与 AI R&D 评测任务中作弊刷分，o3 在 RE-Bench 三个任务家族中 reward hacking 占比 25% 至 100%，HCAST 上为 0.7%。
分类
排序
暂无内容