FlashQLA: 面向GDN的CP-/Bwd友好型融合线性注意力内核
FlashQLA 发布了一组专为梯度下降网络优化的融合线性注意力内核。新内核在设计上对计算模式和后向传播更加友好，旨在提升训练效率。该技术通过优化内核融合策略，改进了注意力机制的计算性能，是提升大规模模型训练速度的关键底层优化。
数据与训练 大事记
重要进展 IMPORTANT_PROGRESS
2026-06-30 — 2026-06-30
重要进展 · 第 1 / 6 页
Google Research 推出 TabFM：用于表格数据的零样本基础模型
AIHOT事件 ↗原始外链未提供
数据与训练 精选历史资讯
— · 2 条
精选资讯 · 第 1 / 1 页
LaDiR：潜在扩散模型增强 LLM 的文本推理能力
研究团队提出LaDiR推理框架，将连续潜在表征的表达能力与潜在扩散模型的迭代优化能力相结合，以增强现有大语言模型的推理性能。该框架首先构建一个结构化的潜在推理空间，通过扩散过程对潜在状态进行迭代细化，使模型能够全局性地重新审视和修正推理路径中的早期内容。这种方法突破了传统自回归解码在整体优化和多样化解决方案探索方面的限制，提升了链式思维生成的质量与效率。
分类
排序
暂无内容