腾讯混元Hy3登陆OpenRouter,免费至7月21日
腾讯混元Hy3模型已通过Novita Labs作为Day-0合作伙伴在OpenRouter上线,并开放免费使用至7月21日。Hy3采用295B MoE架构(21B active),原生支持256K上下文,提供三种可配置推理模式,在编码、推理及长上下文任务上表现强劲,专为智能体工作流和生产级AI场景优化,兼顾可靠性、效率与成本。

2026-10-27 — 2026-10-27
重要进展 · 第 1 / 24 页
— · 6 条
精选资讯 · 第 1 / 2 页
腾讯混元Hy3模型已通过Novita Labs作为Day-0合作伙伴在OpenRouter上线,并开放免费使用至7月21日。Hy3采用295B MoE架构(21B active),原生支持256K上下文,提供三种可配置推理模式,在编码、推理及长上下文任务上表现强劲,专为智能体工作流和生产级AI场景优化,兼顾可靠性、效率与成本。
SGLang 团队将 DSpark 推测解码算法集成到开源推理引擎中。该算法采用半自回归块起草器一次生成一组 token,并利用置信度头与顺序温度缩放(STS)为每个请求动态分配可变验证长度,从而在高负载下裁剪无效验证成本。SGLang 支持密集模型(如 Qwen3)和稀疏模型(如 DeepSeek-V4),通过全 CUDA 图处理不规则的每请求验证长度。提供三种验证模式:`static`(全长)、`compact`(生产路径)和 `cap-accept`(接受上限测量)。还引入了零开销调度、基于离线成本表的在线调度器、融合 Triton 核等优化。在 H200 上使用 DeepSeek-V4-Flash 的测试中,DSpark 在整个并发扫描范围内比 MTP 和非推测基线实现了更优的吞吐量-延迟权衡。
腾讯混元发布 Hy3,在推理、智能体、长上下文等任务上显著进步,比肩 2~5 倍参数规模旗舰模型。内部盲测均分 2.67/4,优于 GLM5.1(2.51/4)。幻觉率从 12.5% 降至 5.4%,常识错误率从 25.4% 降至 12.7%,多轮问题率降至 7.9%,MRCR 从 42.9% 升至 75.1%。任务解决率从 72% 跃升至 90%,平均耗时缩短 34%。API 价格为输入 1 元、输出 4 元(每百万 tokens),命中缓存 0.25 元。已以 Apache 2.0 协议在 GitHub、HuggingFace 等平台开源。
暂无内容