蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming
蚂蚁集团与 vLLM 社区开源通用高性能量化推理内核库 Humming,仓库为 github.com/vllm-project/humming。

2026-10-16 — 2026-10-16
重要进展 · 第 3 / 30 页
— · 7 条
精选资讯 · 第 1 / 3 页
蚂蚁集团与 vLLM 社区开源通用高性能量化推理内核库 Humming,仓库为 github.com/vllm-project/humming。
Meta 的开放权重模型 Muse Spark Open 在 Fireworks 上线 Day-0 serverless,为 816B 参数 MoE 架构,每 token 激活 42B 参数,支持 1M token 上下文窗口。
Google 与 Meta 联合开源 TorchTPU,为 Google TPU 提供原生 PyTorch 后端,模型只需把 .to("cuda") 改成 .to("tpu") 即可开箱运行,无需 JAX 依赖。
暂无内容