GPIC:大规模视觉生成基准数据集发布
我对这个适用于大规模生成模型新时代的视觉生成基准数据集感到非常兴奋!🤩

2026-06-30 — 2026-06-30
重要进展 · 第 1 / 6 页
— · 6 条
精选资讯 · 第 1 / 2 页
我对这个适用于大规模生成模型新时代的视觉生成基准数据集感到非常兴奋!🤩
面壁智能联合清华大学、OpenBMB发布并开源两大数据集:Ultra-FineWeb-L3(超600B Tokens,中文200B+,为当前最大中文预训练合成数据集)和UltraData-SFT-2605(国内首个千万级同时含深思考与非思考标注的SFT数据集)。两者基于UltraData数据分级治理体系构建,在MiniCPM5-1B训练流程中得到完全验证,覆盖预训练退火到后训练SFT全链路。已上线UltraData网站与HuggingFace,免费开放。
蚂蚁百灵团队提出新激活函数 PowLU,以解决 SwiGLU 在 FP8 等低精度训练中因二次增长放大异常值导致的 Loss Spike 和训练崩溃问题。
暂无内容