Answer.AI 揭示未授权工具调用问题:Claude 等模型可调用未授予的工具且 API 不拦截
Answer.AI 的 Piotr Czapla 发现 Claude 4.5 在 solveit 对话中幻觉出一个未授予的工具 add_msg 并成功执行,API 未拦截,且在 Gemini 和 Grok 上也复现了类似行为。

2025-09-08 — 2025-09-08
重要进展 · 第 19 / 42 页
项目推出公开 MCP 服务器目录与 API,为发现和分发服务器提供统一的元数据入口;目录不等于对每个服务器的安全背书。
— · 1 条
精选资讯 · 第 1 / 1 页
Answer.AI 的 Piotr Czapla 发现 Claude 4.5 在 solveit 对话中幻觉出一个未授予的工具 add_msg 并成功执行,API 未拦截,且在 Gemini 和 Grok 上也复现了类似行为。
暂无内容