Qwen-Scope开源套件发布：稀疏自编码器助力模型内部特征操控
Qwen团队推出开源稀疏自编码器套件Qwen-Scope，将SAE特征转化为实用工具。该套件支持四大应用方向：无需提示工程即可通过直接操控内部特征引导模型输出；用极少样本对目标数据进行分类与合成，提升长尾能力；追踪代码切换和重复生成问题的根源并进行修复；通过分析特征激活模式优化评测基准并减少冗余。团队希望社区利用Qwen-Scope深入探索Qwen模型内部机制，并开发出超越现有研究范围的应用。相关资源已开放。
数据与训练 大事记
重要进展 IMPORTANT_PROGRESS
2026-06-30 — 2026-06-30
重要进展 · 第 1 / 6 页
Google Research 推出 TabFM：用于表格数据的零样本基础模型
AIHOT事件 ↗原始外链未提供
数据与训练 精选历史资讯
— · 3 条
精选资讯 · 第 1 / 1 页
Where the goblins came from：GPT-5 行为中“妖精”输出的起源
研究揭示了GPT-5等AI模型中“妖精”输出的传播路径、时间线与根本原因。这些由特定“人格”驱动的怪异行为，源于训练数据中意外混入的特定模式或“文化基因”。开发团队已识别出问题根源，并正在部署修复方案，通过调整训练数据和微调模型来消除此类非预期的个性特征，以提升模型行为的稳定性和可预测性。
Reiner Pope – 大语言模型训练与服务的数学原理
文章揭示了支撑大语言模型（如GPT、Claude、LLaMA）训练与服务的核心数学框架。通过剖析关键方程，可以逆向推导出顶尖AI实验室在模型规模扩展、计算资源分配及服务优化方面的核心策略与实践。这些数学原理不仅解释了模型性能随参数和数据量增长的规律，也量化了训练成本与推理效率之间的权衡，为理解当前大语言模型的发展路径提供了底层逻辑。
分类
排序
暂无内容