地平线发布 LoFT 原生视频几何基础模型,探索面向物理 AI 的通用视觉表征
11 月 18 日,地平线机器人实验室发布原生视频几何基础模型 LoFT(Looped Foundation Transformer for Video Geometry)。
推荐理由:地平线发布原生视频几何基础模型 LoFT,通过双循环架构联合预测相机位姿与深度,在多项基准评测中表现领先。
11 月 18 日,地平线机器人实验室发布原生视频几何基础模型 LoFT(Looped Foundation Transformer for Video Geometry)。
推荐理由:地平线发布原生视频几何基础模型 LoFT,通过双循环架构联合预测相机位姿与深度,在多项基准评测中表现领先。
Matisse 是一种无需训练的框架,通过利用预训练生成式 3D 模型提供的证据,统一了主动重建与关键帧选择任务。该方法估计证据不确定性并推导证据信息增益,以指导视图获取和关键帧选择。在 GSO30、YCB-V 和 Replica 数据集上,Matisse 相对于最佳基线分别将 Chamfer 距离降低了 12.7%、3.8% 和 9.2%,并在 GSO30 上实现了 1.5 倍的整体加速。
推荐理由:该工作提出无需训练的框架,利用预训练生成式 3D 模型的证据来指导主动重建与关键帧选择。
作者发布了 UnderOneFacade,这是迄今为止最大的跨国界和跨大陆的 3D 建筑立面基准数据集,包含总计 27 亿个标注点的厘米级精度点云及层级化、标准化的语义标签。
推荐理由:该数据集提供全球跨域、厘米级精度的建筑立面分割基准,揭示了现有模型在细粒度识别与泛化上的瓶颈。
论文介绍 LatentUM 统一模型,其核心创新在于将所有模态表示于共享语义潜在空间中,消除生成视觉状态时的像素解码中介,使内部推理更灵活高效。实验显示该模型在 Visual Spatial Planning 基准上达到最先进水平,通过自我反思提升视觉生成功能,并在共享空间内预测未来视觉状态以展示世界建模能力。代码与模型已开源,论文为 NeurIPS 2026 Oral 录用版本。
推荐理由:该工作提出共享语义潜在空间的统一模型架构,消除像素解码依赖,在视觉空间规划基准上达到最先进水平并展示世界建模能力。
针对冻结扩散生成器需改变部分输出属性同时保持其他属性的需求,本文研究了条件引导的忠实性并引入局部逆修正以改善方向。该方法结合请求特定的余弦增益预测器与阻尼逆修正及固定时间重线性化,适用于有限编辑场景。
推荐理由:该文提出光谱引导方法,结合局部逆修正与固定时间重线性化,在图像修复等任务中显著优于 Adam 优化器。
论文指出视觉语言模型在跨图像匹配点或物体时常失败,即便答案隐含在隐藏状态中。研究在 Qwen3-VL、InternVL3.5 和 Gemma-3 等模型上验证了两种失效机制:一是携带比较信息的注意力头未将答案读出,二是语义对应存在于视觉 token 但未传递至输出层。
推荐理由:研究发现跨图像比较失败源于特定注意力头未读出答案,通过重分布注意力或微调查询键投影即可修复。
针对长视频理解中感知与推理上下文负担过重的问题,本文提出 VideoNexus 框架,将详细视频感知从证据驱动的规划与推理中解耦。该框架由规划器控制检查位置、分辨率及采样密度,感知子智能体在独立上下文中处理原生音视频并返回紧凑的时间锚定证据。
推荐理由:该框架通过分离感知与规划,在降低推理上下文负担的同时提升了长视频理解准确率。
论文介绍 ALIVE,一个支持主动监控、流式任务协调和反馈寻求交互的交互式流式视频模型。研究构建了包含 28.8 万样本的监督微调数据集(ALIVE-SFT-288K)和 3000 样本的强化学习数据集(ALIVE-RL-3K),采用对比监督微调与行为对齐信用分配强化学习进行两阶段训练,并提出了 FSI-Bench 评测基准。
推荐理由:提出 ALIVE 交互式流式视频模型,结合对比监督微调与行为对齐信用分配强化学习,在多项基准及新评测中表现领先。
论文提出了 Polygraph 系统,解决机器人和车辆多次穿越同一环境时的轨迹全局一致性问题。该方法在线处理会话,按关键帧和空间聚类逐步优化,不构建 3D 地图。
推荐理由:Polygraph 提出在线多会话轨迹优化方案,无需构建 3D 地图即可实现跨设备、跨场景的位姿图融合。
论文提出了 MetricHand,这是一个针对度量世界空间中 4D 手部重建的几何感知流匹配框架。该方法将手 - 物体交互区域的深度先验编码到关节关联表示中,结合视觉特征引导粗粒度度量估计并条件化时间生成步骤。
推荐理由:该工作提出几何感知的流匹配框架,在度量世界空间重建手部运动,显著降低相机与绝对空间的误差。
论文发布 DominoBench 基准,包含 854 个二维刚体场景的静态图像对,用于测试多模态模型预测链式反应结果的能力。实验表明,未获提示的前沿模型在关键决策步骤上准确率不足 72%,且无法自主计算决定结果的物理量;仅当提供具体计算和数值时,模型表现才显著提升。该基准旨在验证模型是否能在无提示下发现并计算决定性物理量,而非仅凭流畅描述场景。数据集与评估工具已开源。
推荐理由:该基准揭示了多模态模型在仅凭静态图像进行定量物理预测时的失效,为具身智能与仿真到现实迁移提供了关键评估工具。
针对轨道视觉导航系统必须依赖合成图像训练的现状,该研究利用 SPEED+ 基准(含 Mylar/铝材反射近似及辐射误差的仿真器)评估了合成到现实的差距。实验发现模型在真实域存在过度自信现象:校准至合成数据 90% 置信度的区域在真实硬件回环测试中仅覆盖 9-15% 的旋转误差。
推荐理由:研究揭示了仿真器辐射误差导致模型在真实域过度自信,且骨干网络适配比数据增强更能有效缩小合成到现实的差距。
该论文介绍了 SelfMark 方法,该方法允许多模态大模型在其原生的视觉特征空间中构建和使用视觉标记进行推理。通过 locate-mark-read 流程建立标记与图像的显式空间对应关系,并在空间规划、密集计数等任务上联合训练单一模型。实验显示该方法在六个基准测试中优于现有专用方法,且效果在不同骨干网络上保持一致。
推荐理由:提出 SelfMark 方法,将视觉标记直接嵌入多模态大模型特征空间以增强推理能力。
Songtao Hu 等人提出一种特征空间语义预测框架,旨在解决现有手术辅助系统过度关注外观保真而忽视下游推理需求的问题。该方法直接在冻结的视觉基础模型(VFM)表示中建模时序动态,通过构建分层目标表示并用可学习掩码替换未来帧特征,训练掩码 Transformer 从观测上下文预测潜在特征。
推荐理由:提出在冻结视觉基础模型特征空间进行语义预测的框架,相比像素级合成在手术流程预判与工具识别上表现更优。
论文提出 AITHER(Authority-Informed Text-Image Hierarchy)框架,旨在解决传统 grounding 方法中隐含的决策问题——即何种输入有权决定答案。
推荐理由:提出 AITHER 方法,通过无训练语义帧路由解决多权威图文推理冲突,在 MATRIX 基准上准确率超最强基线 9.1 个点。
针对视觉语言模型在分布外(OOD)输入上过度自信的问题,本文提出多模态 Logit 融合(MM-Log)方法。该方法在不丢弃预训练几何结构的前提下,将零样本先验与任务适配分支的四个跨模态相似度通道融合为单一 OOD 分数,利用冻结 CLIP 对捷径攻击形成一致性校验。
推荐理由:提出无需微调的零样本先验融合方法,通过冻结 CLIP 与任务分支的一致性检查提升分布外检测鲁棒性。
针对现有视频语言模型仅检索静态属性而忽略动态信息的局限,本文提出 V-JEPA-LM 架构。研究证明动态信息存在于预测编码器的子空间中,并通过像素变换构建反事实监督数据,使语言模型在单阶段训练中即可读取速度等动态特征。
推荐理由:该文提出利用反事实监督让语言模型读取视频编码器中未被利用的动态信息,在单阶段训练中于多项基准测试中超越现有开源模型。
该论文形式化了 CLIP 嵌入中的层次角分离现象,分析了图像与文本嵌入在对比学习下的不对称性,推导了线性损失和 InfoNCE 损失的闭式解,并通过合成实验验证了理论。材料为 arXiv 预印本,未提及同行评审状态或具体部署结果。
推荐理由:本文从理论上解释了 CLIP 嵌入中层次结构产生的几何机制,并给出了闭式解。
论文提出一种混合决策模型(HDM),利用冻结骨干网络配合轻量级自路由块,在单次前向传播中实现零思考或全思考两种模式切换。该方法通过校准的决策策略优化(CDPO)从回合级回报中学习何时进行推理,并在 MMLU-Pro、AGIEval 及 MiniWoB 等基准上验证了其在保持精度的同时显著降低延迟和 Token 成本的效果。
推荐理由:提出零思考或全思考的混合决策模型,通过自路由块动态评估推理价值以平衡精度与延迟。
论文提出了 GUSH3R(Gaussian-Unified Scene Human 3D Reconstruction)框架,旨在解决从单目视频中联合建模场景几何、相机运动与非刚性人体动态并实现照片级渲染的挑战。
推荐理由:该工作提出 GUSH3R 框架,利用单目视频一次性重建动态人物与场景为 3D 高斯泼溅,在保持几何一致性的同时显著提升推理效率。