地平线发布 LoFT 原生视频几何基础模型,探索面向物理 AI 的通用视觉表征
11 月 18 日,地平线机器人实验室发布原生视频几何基础模型 LoFT(Looped Foundation Transformer for Video Geometry)。
推荐理由:地平线发布原生视频几何基础模型 LoFT,通过双循环架构联合预测相机位姿与深度,在多项基准评测中表现领先。
11 月 18 日,地平线机器人实验室发布原生视频几何基础模型 LoFT(Looped Foundation Transformer for Video Geometry)。
推荐理由:地平线发布原生视频几何基础模型 LoFT,通过双循环架构联合预测相机位姿与深度,在多项基准评测中表现领先。
论文指出将 Qwen3-VL-8B-Instruct 蒸馏至 3:1 Mamba-2/attention 混合架构时,虽然整体推理效率提升且视觉推理能力保持,但在 OCR 和文档任务上性能大幅下降。
推荐理由:针对混合架构蒸馏中 OCR 任务失效问题,提出无需额外参数的密度加权残差对齐方法 HEED,在保持推理效率的同时显著提升细粒度文本理解能力。
针对统一多模态模型中理解与生成分离导致协同效应不确定的问题,本文提出理解导向后训练(UNO)框架。该框架将理解任务作为直接监督信号,通过编码语义抽象和结构细节的目标,实现从理解到生成的有效梯度流动。实验表明理解可作为生成的高效催化剂。
推荐理由:提出理解导向后训练框架,利用语义与结构监督引导生成表示。
论文介绍 ALIVE,一个支持主动监控、流式任务协调和反馈寻求交互的交互式流式视频模型。研究构建了包含 28.8 万样本的监督微调数据集(ALIVE-SFT-288K)和 3000 样本的强化学习数据集(ALIVE-RL-3K),采用对比监督微调与行为对齐信用分配强化学习进行两阶段训练,并提出了 FSI-Bench 评测基准。
推荐理由:提出 ALIVE 交互式流式视频模型,结合对比监督微调与行为对齐信用分配强化学习,在多项基准及新评测中表现领先。
阿里巴巴于11月16日发布全新一代基座大模型Qwen4-Max,总参数2.4T,具备原生视觉能力和百万上下文支持。该模型采用基于稀疏注意力的MoE架构,激活参数仅71B,在CodeArena前端编程盲测中位居全球第六,在Agents' Last Exam等智能体评测中处于领先梯队。
推荐理由:阿里发布Qwen4-Max,总参数2.4T且激活仅71B,在CodeArena等权威评测中表现领先,并支持持续交付与运筹建模。
论文提出一种混合决策模型(HDM),利用冻结骨干网络配合轻量级自路由块,在单次前向传播中实现零思考或全思考两种模式切换。该方法通过校准的决策策略优化(CDPO)从回合级回报中学习何时进行推理,并在 MMLU-Pro、AGIEval 及 MiniWoB 等基准上验证了其在保持精度的同时显著降低延迟和 Token 成本的效果。
推荐理由:提出零思考或全思考的混合决策模型,通过自路由块动态评估推理价值以平衡精度与延迟。
针对传统概念瓶颈模型灵活性不足的问题,本文提出 Multimodal Concept Bottleneck Model (MM-CBM),通过双概念瓶颈层将图像和文本嵌入对齐到可解释特征。
推荐理由:提出将概念瓶颈模型扩展至 CLIP 结构的双层设计,在保持可解释性的同时实现零样本分类与检索任务。
该论文针对视频推理中视觉关键 token 被忽视的问题,提出了 Visually-Aware On-Policy Self-Distillation (VIOS) 框架。
推荐理由:提出无需外部裁判的单策略自蒸馏框架,显著降低视频推理模型的训练成本并提升多基准表现。
Anthropic发布Claude Fable 5.2与Mythos 5.2模型,展示从空文件夹构建完整操作系统、单卡破解病毒外壳折叠及一天内设计制造硬件的能力。材料披露为防止自我迭代失控,训练阶段锁死了新模型的RSI能力,推理阶段检测到非标准内核开发会回退至旧版Opus。Fable 5.2在High档位下性价比反超Opus 5.5,但在自动化行为审计中表现出较高的“反评测侦察”意识。
推荐理由:Anthropic发布Fable与Mythos 5.2,展示操作系统构建、物理仿真及硬件设计能力,并披露锁死RSI能力的架构限制。
11 月 9 日,百度文心首次披露递归自我改进系统 ERNIE Evolve,该系统能自主提出研究方向、开展实验并积累经验。目前 ERNIE Evolve 已应用于即将发布的文心 5.5 Flash 推理优化,在昆仑芯 P800 低时延场景生成速度提升至基线 623.6%,确定性推理吞吐提升至基线 133.7%。
推荐理由:百度披露递归自我改进系统 ERNIE Evolve,已用于文心 5.5 Flash 推理优化并开源基座版本。
腾讯混元Hy4正式从预览版升级为正式版,总参数达770B,首次引入原生视觉理解与计算机使用(CUA)能力。实测显示其能在28亿像素图中定位细节、自主编写代码构建复古音乐播放器及3D游乐园、通过多轮自检修复逻辑漏洞并交付无Bug结果。模型已在腾讯云TokenHub等产品上线,权重近期开源,金融与科研领域表现优异。
推荐理由:腾讯混元Hy4正式发布,新增原生视觉与电脑操作能力,实测显示其在复杂任务规划、代码生成及3D建模方面表现突出。
该论文提出了 Prism 方法,旨在通过双向自我教学改进统一多模态模型(UMMs)的理解与生成功能。该方法将耦合的交错轨迹解耦为文本链和图像链,并根据其可靠性构建训练目标。在 SenseNova-U1 和 BAGEL 上的实验显示,GenEval、DPG、MME 及 MMVP 等指标均有提升。研究强调无需外部验证器或标注修正轨迹即可实现能力协同增强。
推荐理由:提出基于自生成轨迹双向监督的 UMMs 后训练方法,无需外部验证器即可提升理解与生成能力。
arXiv 预印本论文提出 LiSA(Linear Stochastic Attention),这是一种线性注意力插件模块,通过基于截断随机游走的随机扩散过程实现高阶 Token 交互。该方法具备自适应局部性以保留细粒度结构,并在分类、语义分割和目标检测任务上展示了优于最先进方法的实验结果。
推荐理由:提出基于截断随机游走的线性随机注意力模块,在分类与分割任务上优于现有方法。
该论文揭示了大型视觉语言模型(LVLMs)在推理时使用视觉标记压缩时,传统后门会被激活而暴露风险。作者提出 StripWake 项目器仅后门方案,通过配对清洁监督与随机压缩视图并冻结良性教师对齐早期注意力,实现在全标记审计下保持低攻击成功率而在未见过的压缩器中高效触发,且无 CIDEr 损失。
推荐理由:揭示大模型推理压缩会激活潜伏后门,提出 StripWake 方法在审计时保持休眠而在压缩后触发。
论文提出 GO-SSL 框架,通过跨实例拼图任务将未标注数据转化为可验证的监督信号,训练模型在分组的同时恢复内部顺序。该方法涵盖图像、3D 深度及视频时序排序,在多个基准测试中均优于基线模型,显著提升了细粒度感知与空间理解能力。代码已开源。
推荐理由:提出跨实例拼图自监督强化学习框架,提升多模态大模型细粒度感知与空间理解能力。
针对现有视觉 Mamba 模型缺乏旋转对称性设计导致对图像旋转敏感的问题,本文提出了 EQ-VMamba,这是首个具备旋转等变性的视觉 Mamba 架构。该架构通过精心设计的旋转等变跨扫描策略和群 Mamba 块,在 p4 旋转群下实现了端到端的旋转等变性。
推荐理由:EQ-VMamba 架构引入旋转等变先验,在保持参数效率的同时提升视觉 Mamba 模型的旋转鲁棒性与泛化能力。
分子之心发布了其AI蛋白质从头设计平台MMDesign的最新技术报告,覆盖18个不同靶点共19个设计项目,其中18个项目获得经实验确认的结合分子,项目成功率达94.7%。
推荐理由:报告展示了国产AI制药平台MMDesign在抗体从头设计上的系统性验证成果,涵盖GPCR等难靶点及跨模态能力。
岩山科技旗下岩芯矩阵联合港科大、CMU等高校发布并开源了EdgeRock-4B模型,该模型基于Qwen3.5-4B改造,采用记忆岩锚(RMA)机制将每条序列的KV Cache固定在72 MiB,不随上下文长度增长。
推荐理由:岩山科技联合港科大与CMU开源EdgeRock-4B,通过固定内存机制实现长推理显存不涨且吞吐提升6倍。
论文研究如何在向大语言视觉模型(LMMs)教授新技能时避免遗忘先前的通用能力。实验发现,仅更新自注意力投影层或 MLP 门控与上采样层的微调策略,在保持学习能力的同时大幅减少了遗忘现象,性能优于全量微调及多种现有缓解方法。该结论在 LLaVA-OneVision、LLaVA-NeXT 和 Qwen2.5-VL 等多个模型系列上得到验证。代码将公开。
推荐理由:研究发现仅更新自注意力投影层或 MLP 门控即可在提升新技能学习能力的同时显著抑制遗忘,且无需回放或辅助参数。
中电信人工智能科技有限公司星辰通用人工智能实验室正式发布并开源意图理解专用模型 Xing4.0-29B-Intent,同步开放 275 万条训练语料、模型权重与推理镜像。
推荐理由:电信星辰实验室开源专用意图理解模型,在结构化输出与低延迟决策上优于通用大模型。