PromptArmor：本地部署模型无法阻止数据外泄，以 Ollama 漏洞为例
PromptArmor 发文指出，本地运行 LLM 并不能解决数据外泄问题，因为漏洞位于处理模型输出的 AI 应用基础设施中，而非模型本身。文章以 Ollama 聊天界面为例，其不安全地渲染 HTML 和 Markdown 内容并配有不安全的 web 搜索工具，可导致钓鱼覆盖层、凭证窃取和上传文档外泄，并给出净化输出、纯文本渲染或内容安全策略等修复方式。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-10-24 — 2026-10-24
重要进展 · 第 3 / 27 页
OpenAI 红队测试发现 Brotli 未认证远程代码执行漏洞并已披露
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 4 条
精选资讯 · 第 1 / 2 页
研究人员发现可读取ChatGPT等模型加密推理过程的API漏洞
Alexander Panfilov团队发现OpenAI、Anthropic、Google等主要AI提供商API存在漏洞，可读取推理模型的加密思考过程。扫描约7000条公开会话发现62个API密钥、33个邮箱和33个密码。通过越狱，Anthropic的Haiku 4.5可逐字转写Opus 4.8的原始推理；解码10000条推理轨迹的API成本约720美元。
Ryan Greenblatt：人类级AI或于2032年前通过递归自我改进催生失控超级智能
Dwarkesh Patel与Redwood Research首席科学家Ryan Greenblatt探讨递归自我改进（RSI）的可能性：一旦AI达到人类顶级专家水平，可能在一年内实现相当于4-5年的AI进展，Ryan的中位预期是2031年自动化AI研发。双方还讨论了超级智能的对齐对象、奖励黑客行为是否会升级为AI联手接管世界等风险。
分类
排序
暂无内容