OpenAI 推出 Secure MCP Tunnel 让私有 MCP 服务器无需公网暴露
OpenAI 发布 Secure MCP Tunnel，让 ChatGPT、Codex 等 OpenAI 产品能在私有 MCP 服务器不暴露公网的情况下与其通信。
部署工程 大事记
重要进展 IMPORTANT_PROGRESS
2026-06-18 — 2026-06-18
重要进展 · 第 9 / 11 页
Vercel 发布开源 AI 智能体框架 Eve：每个智能体就是一个文件目录
AIHOT事件 ↗原始外链未提供
部署工程 精选历史资讯
— · 3 条
精选资讯 · 第 1 / 1 页
SGLang 引入 Waterfill 与 LPLB 提升 DeepEP MoE 负载均衡
SGLang 为 DeepEP MoE 推理新增两种调度时负载均衡方法：Waterfill 将共享专家分配给负载更低的 rank，在 DeepSeek-V3/R1 服务负载下使总吞吐量提升 1.48% 至 4.66%，在 DeepSeek V4 上最佳点从 49,253 tok/s 提升至 51,677 tok/s（+4.92%）；LPLB 基于线性规划优化冗余专家副本的 token 路由，配合 EPLB 在相同集群上实现吞吐量提升 0.84% 至 7.34%。
冻结多token预测加速Pixel上的Gemini Nano模型
Google Research提出一种新架构，在已冻结的Gemini Nano v3模型上改造Multi-Token Prediction（MTP），以加速Pixel 9和10系列上的设备端推理。该方法基于EAGLE框架和CALM，无需单独训练占用内存的草稿模型，通过“晚期退出”策略实现加速。AI通知摘要和校对功能因此生成文本速度显著提升、能耗降低，开发者无需为每个新任务微调独立模型。
分类
排序
暂无内容