InnerLogic-Surg:一种基于持续预训练的开源手术基础模型
InnerLogic-Surg 是一个由数百万张手术图像持续预训练得到的开源手术视觉编码器家族(参数量 21M--300M),数据源自约 2900 小时的互联网手术视频。
推荐理由:该工作通过持续预训练构建了开源手术视觉编码器家族,在多项基准任务中表现最优,为手术图像分析提供了可迁移的强基座。
技术方向
真实和遥操作数据、数据集开放、合成数据及训练工具;区分下载开放与再使用授权。
482 条精选近 30 天 361 条共收录 3,060 条
InnerLogic-Surg 是一个由数百万张手术图像持续预训练得到的开源手术视觉编码器家族(参数量 21M--300M),数据源自约 2900 小时的互联网手术视频。
推荐理由:该工作通过持续预训练构建了开源手术视觉编码器家族,在多项基准任务中表现最优,为手术图像分析提供了可迁移的强基座。
针对现有方法仅关注雨痕而忽略反射与水洼等关键物理效应的不足,该研究提出 CascadeRS 框架,利用深度和分割先验通过物理启发的零样本生成管线,渲染出包含雨痕、反射及水洼的逼真城市雨天场景。作者构建了 Cityscapes-CascadeRS 数据集以评估下游任务在真实雨天条件下的性能,并通过用户研究与定量指标验证了其在感知真实性与鲁棒性上的优势。代码与数据已开源。
推荐理由:该工作提出 CascadeRS 框架,利用深度与分割先验生成含雨痕、反射与水洼的逼真雨天场景,并开源 Cityscapes-CascadeRS 数据集以评估恶劣天气下的视觉鲁棒性。
针对图像到图像(I2I)扩散模型在多任务学习中的参数干扰与伪影问题,本文提出了 OptIMerge 框架。该方法通过最小化多任务损失函数学习轻量级合并系数,利用架构感知的变换对齐注意力层与卷积层的特征,在冻结专家网络的前提下实现了媲美联合训练的多任务能力。
推荐理由:提出基于优化的多任务融合框架,解决图像修复类扩散模型直接平均导致的伪影问题。
Vision-language classifiers 在仅凭文本学习新标签时,其服务列表持续增长会静默改变基于 softmax 的 conformal scores,进而影响旧标签的决策。
推荐理由:提出 PrefixCP 方法解决标签库增长导致的旧决策漂移问题,兼顾覆盖率保证与历史决策稳定性。
Shih-Yao Lin 发布 VideoRouteAudit 审计,在固定骨干网络与解码设置下分离了帧选择、非视觉证据注入和模型路由的影响。全量数据(n=900)显示无测试选择器显著优于均匀采样,最大增益仅 +1.2 分且置信区间包含零;小样本(n=200)评估极不稳定,35.8% 的抽样反转了全量效果。
推荐理由:该审计发现长视频问答的增益主要来自模型切换而非帧选择,且小样本评估极不稳定。
上海 AI 实验室发布科学多模态框架书生·元征(Sage SciPerception),引入递归式自我改进模式,让模型能自主分析任务表现并提出新的投影模块方案以优化感知架构。
推荐理由:上海 AI 实验室推出支持递归式自我改进模式的科学多模态框架,赋予大模型自主优化感知架构能力。
论文介绍 SIRIS 框架,通过扰动仿真器构建具有相同候选方案但预测结果不同的工作负载对,测试大模型是否能识别仿真限制并据此做出正确选择。实验评估了十三款前沿 LLM 在系统设计问题上的表现,发现仅凭识别限制并不保证选择正确,且强模型有时会放弃有效推荐;自我修正虽能恢复部分选择但也引入新错误。
推荐理由:该预印本通过扰动实验发现,前沿大模型在依赖有缺陷的仿真器时难以识别错误并坚持有效推荐,揭示了系统理解评估的新挑战。
该论文评估了采样广度与交互深度对多轮智能体强化学习性能的影响,发现其优势依赖于充足的回合预算且集中于错误恢复与长程韧性,而非均匀提升单步决策质量。作者提出 BudgetMix RL 方法以缓解预算依赖带来的部署风险,并展示了其在多样化执行设置下的鲁棒性。
推荐理由:原文通过多轮交互预算分析揭示强化学习在长程任务中的优势边界,并提出 BudgetMix RL 以缓解部署风险。
针对文本指令在表达细粒度外观、空间变换和时序动态上的局限,该研究提出了 Visual In-context Editing 新范式,允许用户通过单图、成对图像或成对视频等异构视觉参考指定编辑需求。
推荐理由:VicEdit-400K 数据集与 VicEdit 框架展示了从视觉示例而非纯文本进行视频编辑的新范式,为可控视频生成提供了新的技术路径。
arXiv 论文《Faces in Things, Faces in Nothing》利用 FacesInThings 数据集测试了六种视觉模型,探究其将模糊视觉证据转化为类别判断的机制。
推荐理由:该研究通过 FacesInThings 数据集揭示了视觉模型将模糊证据转化为类别判断的机制,发现不同模型对“人脸”的定义存在默认偏差。
该论文提出了 HALO 系统,利用程序化生成的千个虚拟家庭合成视觉 - 语言 - 动作数据以解决人形机器人训练的数据瓶颈。HALO 习得了坐椅子、导航至命名物体、侧身过门等技能,并能编排这些技能完成复合长周期任务。系统在从未见过真实家居的训练下实现零样本迁移,在六个未建图的真实环境中进行了 360 次试验,成功率为 91%。代码与视频已公开。
推荐理由:HALO 系统通过程序化生成合成数据实现零样本迁移,在六个未建图真实环境中达到 91% 成功率。
该论文研究了五个开源文生图模型(包括 SD3.5-M、FLUX 系列和 Qwen-Image)在生成物体数量超过十个时的表现。实验发现,一旦请求中的物体数量超过约十个,所有模型都会停止遵循具体的数字指令,其生成的图像布局主要由初始噪声的粗粒度部分决定,而非数字词本身。研究还指出,当物体数量超过十时,精确匹配分数难以区分遵循指令与忽略指令的模型,而相对误差评分甚至可能偏好常数猜测值十六。
推荐理由:研究揭示文生图模型在物体数量超过十时失去计数能力,且噪声布局比数字指令更能决定构图。
该研究提出了 Open-HumanScale-50K 数据集及 Open-HumanWAM 模型,这是首个将以第一人称视角的人类视频预训练规模扩展到 5 万小时的完全开放方案。
推荐理由:原文给出了基于5万小时人类视频预训练的开放配方与实验结果,相关团队可据此复现并验证纯人类数据在机器人策略学习中的缩放规律。
针对多轮图像编辑中因输出复用导致的小误差累积成严重视觉漂移的问题,TailSteer 提出了一种最终阶段训练框架。该方法遵循简单原则:保持早期去噪动力学接近基座模型,仅在轨迹末端集中进行修正以抑制细粒度偏差。
推荐理由:TailSteer 框架在保留基座模型能力的前提下,通过轨迹末端修正显著降低了多轮编辑中的累积漂移。
针对自回归视频模型在长序列生成中的显存与计算瓶颈,论文提出 NanoKV 框架,通过冻结骨干网并利用 Token 与注意力头的冗余性实现高比率 KV 缓存压缩。
推荐理由:NanoKV 提出冻结骨干网的高比率 KV 缓存压缩框架,在视频生成任务中显著降低显存占用并提升推理速度。
该论文提出了 Prism 方法,旨在通过双向自我教学改进统一多模态模型(UMMs)的理解与生成功能。该方法将耦合的交错轨迹解耦为文本链和图像链,并根据其可靠性构建训练目标。在 SenseNova-U1 和 BAGEL 上的实验显示,GenEval、DPG、MME 及 MMVP 等指标均有提升。研究强调无需外部验证器或标注修正轨迹即可实现能力协同增强。
推荐理由:提出基于自生成轨迹双向监督的 UMMs 后训练方法,无需外部验证器即可提升理解与生成能力。
TouchéWorld 是一个将手势驱动交互整合进相机控制视频世界模型的框架。给定初始图像和场景描述提示词,该模型基于时间对齐的相机和手部控制生成视频。研究团队通过标注补全、一致性过滤和时间对齐构建了异构第一人称视频的联合相机与手部训练数据,并在预训练的相机控制世界模型基础上,结合空间手部骨架条件与数值手部运动特征进行参数高效适配。
推荐理由:该报告提出 TouchéWorld 框架,将手势驱动交互整合进相机控制的视频世界模型中。
针对大视觉语言模型处理多张输入图像时视觉 Token 预算激增的问题,现有基于注意力的剪枝方法在多图基准上表现不佳且存在位置偏差。本文提出 RI-Prune,这是一种无需训练、不依赖注意力机制的预解码器选择器。
推荐理由:针对多图像场景下注意力机制失效问题,提出无需训练的 RI-Prune 方法,通过查询相关性与跨图对应关系实现更优的视觉 Token 剪枝。
论文提出 Federated Prompt Learning with Instance-Aware Cross-Modal Representations (FedIA) 框架,旨在解决现有联邦提示学习方法仅支持客户端级个性化而忽视样本间视觉差异的问题。
推荐理由:提出 FedIA 框架,将联邦提示学习从客户端级个性化推进到实例级,通过自适应融合模块提升跨域与标签偏斜下的性能。
该论文针对成像逆问题中的流匹配生成后验采样提出 FLINT 框架。现有方法将轨迹空间优化与源空间初始化视为独立设计,而本文证明二者存在内在耦合并推导了统一稳定性界限。FLINT 通过两步法实现:首先利用流形约束的邻近目标函数在少量迭代内建立高保真起点,随后在受限随机性调度下执行引导采样以防止优势被噪声侵蚀。实验显示该方法在多种逆问题中实现了感知质量的最优和计算效率的优越性。
推荐理由:FLINT 提出将初始化邻近性与采样随机性耦合的新框架,在保持高保真起点的同时通过受限噪声注入提升逆问题求解效率。