推理能力 大事记
AIHOT重要进展资料来源于AIHOT，不代表青峰联创已逐项独立核验。AIHOT专题 ↗
数据校验时间：2026-11-07 00:32:58 UTC；数据待更新，显示最近有效快照
重要进展 IMPORTANT_PROGRESS
2026-07-27 — 2026-07-27
重要进展 · 第 7 / 24 页
模型
Moonshot 发布 2.8T 参数开源多模态模型 Kimi K3，Modal 实现发布当天 460 tokens/s 推理
推理能力 精选历史资讯
AIHOT · 精选 · 不计入本站文章主题归属复核已到期或尚未完成；当前展示上次核验的历史缓存，不代表最新已确认的主题归属。
— · 1 条
精选资讯 · 第 1 / 1 页
为提升超长上下文下的计算效率，Ling 2.5架构将Ling 2.0的GQA改造为1:7的Lightning Attention与MLA混合线性注意力。此举旨在利用Lightning Attention提升长序列吞吐，并通过MLA极致压缩KV Cache。为确保改造后性能无损，团队设计了精细的平滑迁移训练策略，包括权重转换、QK Norm融合与Partial RoPE改造等多阶段加训。Scaling Law实验确定了1:7为最优混合比例，最终使万亿参数模型实现了更低的计算成本与更高的长文本推理效率。
