设计可抵御提示注入的 AI agent
ChatGPT 防御提示注入与社会工程的方法：在 agent 工作流中约束高风险操作并保护敏感数据，避免 AI 智能体因恶意提示泄露信息或执行危险动作。
Agent智能体 大事记
重要进展 IMPORTANT_PROGRESS
2021-12-17 — 2021-12-17
重要进展 · 第 55 / 55 页
WebGPT 研究浏览器辅助问答
WebGPT 在文本浏览器环境中搜索、浏览网页并收集引用，以人类反馈改善长答案。这是语言模型与外部环境交互的重要早期研究，不等于通用自主智能体正式上线。
Agent智能体 精选历史资讯
— · 4 条
精选资讯 · 第 1 / 2 页
从模型到智能体：为 Responses API 配备计算机环境
OpenAI 基于 Responses API、shell 工具与托管容器构建 agent runtime，支持文件处理、工具调用及状态管理，实现安全可扩展的智能体计算机环境部署。
Advanced Machine Intelligence（AMI Labs）新创公司正式亮相
AMI Labs 宣布获 10.3 亿美元种子轮融资，由 Cathay Innovation、Bezos Expeditions 等领投，创欧洲公司种子轮纪录。公司致力于开发基于世界模型的新型 AI 系统，具备理解世界、持久记忆、推理规划及可控安全能力，团队分布于巴黎、纽约、蒙特利尔和新加坡。
分类
排序
暂无内容