设计可抵御提示注入的 AI agent
ChatGPT 防御提示注入与社会工程的方法：在 agent 工作流中约束高风险操作并保护敏感数据，避免 AI 智能体因恶意提示泄露信息或执行危险动作。
Agent智能体 大事记
重要进展 IMPORTANT_PROGRESS
2024-05-06 — 2024-05-06
重要进展 · 第 40 / 55 页
SWE-agent 研究面向模型的计算机操作界面
SWE-agent 通过专门的 Agent-Computer Interface 支持代码搜索、文件编辑及测试，研究操作界面设计如何影响自动修复能力。节点采用当前 arXiv 首次提交记录，不等同于项目首次演示日期。
Agent智能体 精选历史资讯
— · 4 条
精选资讯 · 第 1 / 2 页
从模型到智能体：为 Responses API 配备计算机环境
OpenAI 基于 Responses API、shell 工具与托管容器构建 agent runtime，支持文件处理、工具调用及状态管理，实现安全可扩展的智能体计算机环境部署。
Advanced Machine Intelligence（AMI Labs）新创公司正式亮相
AMI Labs 宣布获 10.3 亿美元种子轮融资，由 Cathay Innovation、Bezos Expeditions 等领投，创欧洲公司种子轮纪录。公司致力于开发基于世界模型的新型 AI 系统，具备理解世界、持久记忆、推理规划及可控安全能力，团队分布于巴黎、纽约、蒙特利尔和新加坡。
分类
排序
暂无内容