数据与训练 大事记
AIHOT重要进展资料来源于AIHOT,不代表青峰联创已逐项独立核验。AIHOT专题 ↗
数据校验时间:2026-11-06 00:32:11 UTC;数据待更新,显示最近有效快照
重要进展 IMPORTANT_PROGRESS
2026-05-26 — 2026-05-26
重要进展 · 第 6 / 6 页
产品
开源多模态模型SenseNova-U1完整训练代码库
数据与训练 精选历史资讯
AIHOT · 精选 · 不计入本站文章主题归属复核已到期或尚未完成;当前展示上次核验的历史缓存,不代表最新已确认的主题归属。
— · 2 条
精选资讯 · 第 1 / 1 页
该项目使用AMD Instinct MI300X(192 GB HBM3显存)和ROCm,通过LoRA微调Qwen3-1.7B模型实现医学问答。训练仅用2000条MedMCQA样本,约5分钟完成,仅更新约220万参数(占模型总参数的0.1443%),全程采用fp16精度,无需量化。HuggingFace生态(Transformers、PEFT、TRL、Accelerate)在ROCm上无缝运行,无需修改代码即可直接替代CUDA。模型已上传至HuggingFace Hub并提供在线Demo。
研究人员提出文本条件联合嵌入预测架构(TC-JEPA),通过引入图像描述文本作为条件信息来降低掩码特征预测中的视觉不确定性。该方法采用细粒度文本调节器,对输入文本标记计算稀疏交叉注意力,从而调制预测的图像补丁特征。与基于掩码特征预测的I-JEPA相比,TC-JEPA能够学习到语义更丰富的视觉表征,解决了原有方法因视觉不确定性导致的语义学习不足问题。