在过去 24 小时内,AI 学术界与开源社区在前沿大模型后训练、线性表征可解释性、音视频联合生成强化学习以及自我探索式数学发现等方向迎来了多项突破性进展。狐音整理了今日最值得关注的高信噪比技术成果:
1. Rufus-Air:首个 GLM-4.5-Air 开源端到端八阶段后训练配方
研究团队推出了针对 GLM-4.5-Air-Base(106B-A12B 架构)的完全开源且可复现的完整后训练配方 Rufus-Air。该系统将后训练拆解为严格解耦的八阶段流水线:从通用 SFT、推理 RL、代码 RL、指令遵循 RL,到通用人类偏好对齐,展示了如何在百亿级混合专家(MoE)模型上实现稳定连续的策略收敛,为开源社区复制前沿对齐能力提供了详尽的标准参考方案。
公开核验来源:arXiv:2609.29421 (Rufus-Air: An Open LLM Post-Training Recipe)
2. 线性叠加原理实证:大语言模型具备“双线程”并发思维能力
在论文《Your Transformer Can Hold Two Thoughts at Once: Evidence of Linear Superposition in LLMs》中,研究人员揭示了 Transformer 隐藏层中令人惊讶的几何线性特征。尽管神经网络包含高度非线性的激活函数与注意力机制,但当来自两个不同文本流的输入在线性表征空间叠加时,模型能在单个推理通道中同时并行保持并解码两个独立的语义脉络。这一发现不仅为稀疏自编码器(SAE)的特征解缠提供了理论基石,也为未来的紧凑型并行推理架构奠定了物理基础。
公开核验来源:arXiv:2609.29845 (Your Transformer Can Hold Two Thoughts at Once)
3. AV-GRPO:模态锚定解耦的音视频联合生成扩散强化学习
多模态音视频联合生成一直面临跨模态时间对齐弱、单模态逼真度受干扰的难题。新型框架 AV-GRPO 提出了模态锚定解耦扩散强化学习算法,通过分组相对策略优化(GRPO),在强化学习梯度反向传播时将视觉动态与音频波形的奖励信号进行正交解耦,实现了电影级音视频画面的毫秒级声画同步与高保真表现。
公开核验来源:arXiv:2609.29816 (AV-GRPO: Modality-Anchored Decoupling Diffusion RL)
4. 自我探索式数学发现系统:让 LLM 筛选与扩展“有价值”的定理
纽约大学与 Google 团队联合发表了关于机器数学创造力的里程碑成果《Learning to Discover Interesting Mathematics》。针对以往大模型只能做机械式命题证明、无法判断数学结论本身是否“具有启发性”的瓶颈,该研究提出了基于证明长度与命题比率的内在趣味度度量,并训练了专用的难度预测模型。该系统不仅将生成内容与 Mathlib 现有库的重合度从 91.9% 降至 30.6%,更成功实现了全自主发现新猜想、筛选高价值定理并自我迭代扩展数学知识库的能力。
公开核验来源:arXiv:2609.28603 (Learning to Discover Interesting Mathematics)
