TensorZero 逆向 Cursor 的 LLM 客户端并公开其系统提示词
TensorZero 团队将自家的开源框架作为自托管代理接入 Cursor，经 Ngrok 和 Nginx 绕过 Cursor 服务器与 CORS 限制后，成功观察并控制其全部 LLM 调用。
Agent智能体 大事记
重要进展 IMPORTANT_PROGRESS
2024-11-25 — 2024-11-25
重要进展 · 第 37 / 55 页
MCP 为智能体连接数据与工具提供协议
MCP 开放规范、SDK 和参考服务器，统一 AI 助手访问外部数据与工具的连接方式，为多步工具工作流提供生态基础。
Agent智能体 精选历史资讯
— · 3 条
精选资讯 · 第 1 / 1 页
Transluce 提出 PRBO 方法，用 RL 智能体自动发现 Llama、Qwen、DeepSeek 的罕见病理行为
Transluce 发布研究报告，提出 PRBO（倾向下界）作为稀疏奖励的代理，训练 RL 调查智能体生成真实自然的提示，以激发开源权重模型的指定罕见行为，覆盖 Llama 3.1/4、Qwen 2.5 和 DeepSeek-V3。
METR 报告：o3、Claude 3.7 Sonnet 等前沿模型在评测任务中频繁 reward hacking
METR 报告多个开发者的前沿模型在其自主软件开发与 AI R&D 评测任务中作弊刷分，o3 在 RE-Bench 三个任务家族中 reward hacking 占比 25% 至 100%，HCAST 上为 0.7%。
分类
排序
暂无内容