面向内窥镜手术视频理解的特征空间潜在预测方法
Songtao Hu 等人提出一种特征空间语义预测框架,旨在解决现有手术辅助系统过度关注外观保真而忽视下游推理需求的问题。该方法直接在冻结的视觉基础模型(VFM)表示中建模时序动态,通过构建分层目标表示并用可学习掩码替换未来帧特征,训练掩码 Transformer 从观测上下文预测潜在特征。
推荐理由:提出在冻结视觉基础模型特征空间进行语义预测的框架,相比像素级合成在手术流程预判与工具识别上表现更优。
技术方向
三维重建、空间表示、视觉定位和可交互环境中的感知与推理。
760 条精选近 30 天 559 条共收录 4,114 条
Songtao Hu 等人提出一种特征空间语义预测框架,旨在解决现有手术辅助系统过度关注外观保真而忽视下游推理需求的问题。该方法直接在冻结的视觉基础模型(VFM)表示中建模时序动态,通过构建分层目标表示并用可学习掩码替换未来帧特征,训练掩码 Transformer 从观测上下文预测潜在特征。
推荐理由:提出在冻结视觉基础模型特征空间进行语义预测的框架,相比像素级合成在手术流程预判与工具识别上表现更优。
论文提出 AITHER(Authority-Informed Text-Image Hierarchy)框架,旨在解决传统 grounding 方法中隐含的决策问题——即何种输入有权决定答案。
推荐理由:提出 AITHER 方法,通过无训练语义帧路由解决多权威图文推理冲突,在 MATRIX 基准上准确率超最强基线 9.1 个点。
Guobiao Wang 审计了一种无源流匹配分割器在 120 名未见训练数据上的表现,发现模型常漏检脾脏且现有质量门控(往返过滤和体积 Dice)无法识别此类错误。作者提出 Chain-and-Fill 方法在 119 名患者上满足所有预注册终点,其严重组增益与 SAM 2 传播不可区分,且仅 1/357 的患者种子对受损。
推荐理由:原文审计了无源流匹配分割器在 CT 影像中的脾脏漏检问题,并验证了链式填充修复方法的有效性。
论文 TopSDF 针对 3D Gaussian Splatting 提取干净、水密显式表面网格的挑战,提出将符号距离状态建模为多元高斯随机场的框架。通过学习四面体顶点间的潜在拓扑协方差,该方法扩展了局部自由度并允许候选网格顶点沿四面体的双极边灵活放置,同时直接整合变分网格化能量与能量驱动的 Gaussian 稠密化策略以改善三角形质量。
推荐理由:提出基于拓扑协方差的 SDF 场框架,解决 3DGS 网格提取中的梯度冲突与退化三角形问题。
针对视觉语言模型在分布外(OOD)输入上过度自信的问题,本文提出多模态 Logit 融合(MM-Log)方法。该方法在不丢弃预训练几何结构的前提下,将零样本先验与任务适配分支的四个跨模态相似度通道融合为单一 OOD 分数,利用冻结 CLIP 对捷径攻击形成一致性校验。
推荐理由:提出无需微调的零样本先验融合方法,通过冻结 CLIP 与任务分支的一致性检查提升分布外检测鲁棒性。
VLAN 是一个新的导航基准数据集,包含 1,000 个场景、20K 条导航轨迹和 160K 关键帧,涵盖多样光照与环境条件。该基准针对足式与轮式智能体(含人形机器人与四足机器人)以及视觉或行动障碍人士提供特定主体的动作与可访问性特征,并将日常障碍物分类为可通过、绕行、高风险和阻挡四类。
推荐理由:VLAN 基准提供千人场景与二十万轨迹数据,支持足式、轮式及残障用户等多主体导航评估。
论文提出 D2ToF 框架,利用蒸馏扩散策略和多元引导机制,将低分辨率单光子 LiDAR 波形(8x8)一步重建为高分辨率深度图(128x128),推理耗时约 83 毫秒。实验结果显示该方法优于现有基线,解决了极差输入上采样问题。
推荐理由:提出 D2ToF 一步扩散框架,实现单光子 LiDAR 波形到高分辨率深度图的超分辨率重建。
该论文提出了 Vision-as-a-Tool (VaaT) 范式,通过 VHarness 框架将通用多模态大模型重构为可被调用的外部工具,使纯文本智能体在代理执行中完全卸载视觉推理任务。研究在图像转 HTML、SVG 及 3D 生成等任务上进行了评估,结果显示该架构显著提升了视觉保真度和几何准确性,证明了模块化视觉推理作为未来代理编码系统基础的有效性。
推荐理由:提出将通用多模态大模型作为外部工具调用,使纯文本智能体具备视觉推理能力并提升生成质量。
该论文针对自然语言点云定位任务中检索顺序决定最终输出坐标的问题,提出 SCAR 方法。该方法将每个单元 - 细粒度坐标对视为定位假设,利用骨干网络实际细粒度点的空间支持进行证据读出,并结合中心支持、语义存在度等构建 23 维表示训练共享评分器。
推荐理由:提出 SCAR 方法,通过空间一致性重排序解决自然语言点云定位中检索顺序决定最终输出的问题。
该论文提出 ALoMa 方法,利用 LoMa 关键点描述符在图像及图像对层面进行仿射对应关系(AC)估计,通过联合学习完整的 4-DoF 变换矩阵替代单独估计分量。实验表明该方法在多视图几何下游任务中表现一致优于现有方案。材料为预印本论文,代码已开源。
推荐理由:提出 ALoMa 方法,联合学习仿射变换矩阵以增强多视图几何求解的鲁棒性。
论文提出免训练的 EcoVGGT 推理框架,利用固定关键帧集(Pinned Key Set)替代内容选择机制,实现长视频三维重建的恒定成本处理。实验显示该方法在 ScanNet 1000 帧视频上将速度提升 13.8 倍,并在 VGGT 模型上通过微调对齐模块将成功率从 70% 提升至 82%,同时支持单 GPU 处理 4000 帧及在线流式重建。
推荐理由:提出免训练推理框架 EcoVGGT,通过固定关键帧实现长视频三维重建的高效流式处理。
TelePhysica 是一个闭环框架,旨在从单张照片重建可执行的多体制物理世界,以驱动状态化的三维交互和轨迹感知的视频合成。该方法利用视觉语言编码智能体生成分离的视觉网格和声明性物理模型,并通过像素对齐轮廓批评与零力重力平衡预飞检查进行两阶段验证。
推荐理由:该工作提出闭环框架,从单张照片重建可执行的物理世界以驱动状态化交互与视频合成。
针对现有视频语言模型仅检索静态属性而忽略动态信息的局限,本文提出 V-JEPA-LM 架构。研究证明动态信息存在于预测编码器的子空间中,并通过像素变换构建反事实监督数据,使语言模型在单阶段训练中即可读取速度等动态特征。
推荐理由:该文提出利用反事实监督让语言模型读取视频编码器中未被利用的动态信息,在单阶段训练中于多项基准测试中超越现有开源模型。
arXiv 发布论文 VACO,针对单张 RGB 图像进行密集手部接触估计任务,提出顶点对齐解码器以解决传统直接预测器中顶点无锚定导致的接触涂抹问题。该方法通过 MANO 顶点采样局部特征,联合训练重建与接触预测,无需辅助重建器即可在推理时预测位置。
推荐理由:该预印本提出顶点对齐解码器解决单图密集手部接触估计难题,在五项基准上刷新 SOTA 并提升下游交互重建效果。
论文提出 QCAP-VQA 模型,利用排名分割提案构建问题条件的先验来监督交叉注意力头,并通过 capped prior-mass 目标函数限制先验内的注意力质量。
推荐理由:提出基于问题条件的 capped prior-mass 监督方法,在无需专家掩码下实现空间监督并验证了自动先验的局限性。
该论文形式化了 CLIP 嵌入中的层次角分离现象,分析了图像与文本嵌入在对比学习下的不对称性,推导了线性损失和 InfoNCE 损失的闭式解,并通过合成实验验证了理论。材料为 arXiv 预印本,未提及同行评审状态或具体部署结果。
推荐理由:本文从理论上解释了 CLIP 嵌入中层次结构产生的几何机制,并给出了闭式解。
该论文提出一种基于视觉语言模型(VLM)的机器人操作安全框架,旨在处理几何约束之外的语义安全问题。系统首先通过结构化安全工具判断任务是否因可能导致不可恢复的危害而应被拒绝;若可执行,则识别物体对之间的可预防危害并指定需避免的空间关系。
推荐理由:该框架利用 VLM 将任务语义与物体交互风险映射为连续三维风险场,结合避障模块在仿真与现实环境中验证了可预防性危害的识别能力。
论文提出一种混合决策模型(HDM),利用冻结骨干网络配合轻量级自路由块,在单次前向传播中实现零思考或全思考两种模式切换。该方法通过校准的决策策略优化(CDPO)从回合级回报中学习何时进行推理,并在 MMLU-Pro、AGIEval 及 MiniWoB 等基准上验证了其在保持精度的同时显著降低延迟和 Token 成本的效果。
推荐理由:提出零思考或全思考的混合决策模型,通过自路由块动态评估推理价值以平衡精度与延迟。
论文提出了 GUSH3R(Gaussian-Unified Scene Human 3D Reconstruction)框架,旨在解决从单目视频中联合建模场景几何、相机运动与非刚性人体动态并实现照片级渲染的挑战。
推荐理由:该工作提出 GUSH3R 框架,利用单目视频一次性重建动态人物与场景为 3D 高斯泼溅,在保持几何一致性的同时显著提升推理效率。
论文介绍 Canvas Vision Transformer (CanViT),这是首个任务与策略无关的主动视觉基础模型 (AVFM)。该模型利用场景相对 RoPE 结合视网膜视觉骨干网络与时空图景全局潜在工作区,并通过 Canvas Attention 机制实现高效交互。
推荐理由:提出首个任务与策略无关的主动视觉基础模型 CanViT,在低分辨率瞥视下实现优于现有模型的分割精度与推理效率。