开源生态 大事记
AIHOT重要进展资料来源于AIHOT,不代表青峰联创已逐项独立核验。AIHOT专题 ↗
数据校验时间:2026-11-07 12:47:49 UTC;数据待更新,显示最近有效快照
重要进展 IMPORTANT_PROGRESS
2026-03-16 — 2026-03-16
重要进展 · 第 29 / 31 页
模型
Mistral 发布 Small 4,统一推理、多模态与编码能力并以 Apache 2.0 开源
开源生态 精选历史资讯
AIHOT · 精选 · 不计入本站文章主题归属复核已到期或尚未完成;当前展示上次核验的历史缓存,不代表最新已确认的主题归属。
— · 1 条
精选资讯 · 第 1 / 1 页
Flood 是一款面向离线应用的高效大语言模型推理框架。它采用流水线并行降低通信开销,并通过分段式KV缓存管理提升连续性。框架支持连续批处理、分块预填充、FP8/INT8量化及多模态模型推理。性能测试表明,其在多种模型和硬件上的吞吐量最高可达 vLLM 的 2.4 倍。其专用内核 SegmentAttention 在处理长序列时,解码速度较 FlashAttention 最高提升 3.16 倍。该项目于 2025 年 3 月开源并快速迭代,已支持前瞻解码等新特性。