CILA:基于混淆的实例级 Logit 调整用于长尾识别
针对现实数据集固有的类别不平衡问题,现有基于频率的 Logit 调整忽略了实例级混淆并抑制了非目标类的信息信号。本文提出 CILA 方法,根据目标类与非目标类间的实例级混淆自适应调整 Logits,恢复被抑制的梯度;同时引入 BNI 方法,在训练中对目标 Logit 进行扰动,覆盖仅靠惩罚无法处理的近边界正确分类样本。
针对现实数据集固有的类别不平衡问题,现有基于频率的 Logit 调整忽略了实例级混淆并抑制了非目标类的信息信号。本文提出 CILA 方法,根据目标类与非目标类间的实例级混淆自适应调整 Logits,恢复被抑制的梯度;同时引入 BNI 方法,在训练中对目标 Logit 进行扰动,覆盖仅靠惩罚无法处理的近边界正确分类样本。
针对扩散模型概念擦除中因启发式强度缩放导致的非目标生成质量下降与不可控语义漂移问题,论文提出 Push-Pull Attentional Anchoring (PPAA) 机制。
该研究明确定义重用早期治理控制结果的效度条件,并验证了基于 Ed25519 数字签名的“失效关闭”发布门能阻断九成操纵场景。对 714 个公开数据版本控制流水线的回放显示,仅按声明依赖重用结果可避免 83.4% 的执行阶段,但仍有 3.3% 的提交因未声明依赖导致重用错误代码或配置。
PACE-MoE 提出一种策略引导的框架,联合执行自适应域采样和特定域的 LoRA 适配以解决多模态医学影像对齐难题。实验在七个医学成像领域进行,相比 Vanilla 基线平均框 IoU 提升 3.64%,仅用自适应采样即额外提升 2.07%。该成果证明了协调数据分配与参数适配对多域医学视觉定位的有效性。
arXiv 论文提出 Diffusion for Anatomical Reshaping with Text (DART),该方法从分割概率中学习共享形状表示,利用解剖描述修正概率而无需输入医学图像。
针对场景文本编辑通常依赖合成配对数据的局限,本文提出 TextRIRO 方法,通过裁剪、打乱等扰动将单张真实图像转化为自配对监督数据,在保持风格的同时破坏语义以学习编辑行为。实验显示该方法在真实世界基准上兼具高准确率与视觉真实性,并构建了 TextRIRO-3M 大规模数据集用于提升长文本识别模型性能。代码已开源。
该论文提出一种基于正交残差学习的自适应侧偏和转向刚度估计方法,旨在解决轮胎变化时模型校正与滤波器创新竞争的问题。研究通过传播预测测量的刚度敏感性并构建与之正交的校正器,在整车仿真中使侧滑误差降低 12.7% 至 22.0%,并在真实车辆数据上验证了其对名义刚度偏移的鲁棒性。材料为预印本论文,已提交至 Vehicle System Dynamics。
推荐理由:提出正交残差学习框架,在保持侧偏刚度估计能力的同时抑制模型修正干扰。
AnomalyJev 是一种无需生成 token 的轻量框架,利用真值定义的查询和指针头提取可验证声明以评估多模态大模型(MLLM)生成的异常检测文本解释。该框架在包含 640 个解释及超 1,600 个专家评分的人标注数据集上测试,在跨数据集设置下与人类标注者达成更高一致性。其推理成本远低于主流开源 MLLM 裁判并接近旗舰级模型效果,显著降低了评估开销。
针对预训练视觉语言模型在目标域性能下降问题,该框架结合渐进式基于边界的子集选择与级联一致性学习,在无标签数据下提升分类器表现。实验显示,该方法在 CLIP 和 SigLIP 骨干网络上均优于零样本基线,且仅更新归一化参数以保留嵌入结构。arXiv:2610.27515 论文表明这是一种轻量有效的无监督自适应策略。
论文提出 LoRASpace,这是一种免训练方法,利用奇异值分解找到保留 99% 因子能量的最小子空间。该方法支持两种推理模式:静态合并模式(以合并成本换取质量)和动态路由模式(根据输入选择)。在扩散模型池中,动态模式比复合推理快 6 倍以上,因为只需运行一次主干网络前向传播。代码已开源。
推荐理由:提出免训练方法 LoRASpace,通过池级共享子空间实现多 LoRA 静态合并或动态路由,在扩散模型池中显著降低推理延迟。
针对深度学习点云去噪方法在真实场景中因噪声分布偏离训练集而性能下降的问题,本文提出一种无需额外监督或重新训练的测试时自适应(TTAD)框架。该框架利用预训练模型和测试时的噪声点云作为输入,首先通过残差驱动噪声建模模块估计样本特定的噪声分布,随后设计噪声感知对比适应模块构建样本特定的噪声 - 更噪测试对,并通过对比学习在测试时对模型参数进行更新。
PerQ 将感知重建重构为具有有界支撑集的逆生成建模,在冻结的多速率失真优化骨干网络上附加率条件流匹配补偿器。实验显示该方法在 Kodak 和 CLIC2020 数据集上,LPIPS 与 FID 指标媲美 MS-ILLM,PSNR 保持与 ELIC 竞争水平,且单模型即可支持宽比特率范围快速解码。代码实现已公开,适用于三种不同骨干网络并带来一致的增益。
该论文研究视觉语言模型(VLM)从图像推断地理位置并造成隐私泄露的问题,提出一种推理时路由与引导框架:通过序数粒度路由器将视觉上下文隐私表征映射到披露路径,并在解码阶段应用特定于路径的隐藏状态干预。实验显示该方法在四个 VLM 骨干网络上提升了视觉上下文感知的披露对齐度,更好地平衡了过度与不足披露,且对通用能力基准影响有限,并成功迁移至具有不同数据分布和隐私风险分类学的另一数据集。
针对低资源历史材料手写字符识别,研究提出利用显著性图定义扰动或保留视觉信息区域的增强变体。引入可解释性一致性指数(ECI)评估模型在受控扰动下的显著性模式稳定性,发现显著性约束虽能提升识别效果但无单一最优策略。该结果证明仅靠预测指标会掩盖模型敏感度差异,需将可解释性一致性作为互补评估维度。
本文针对音频 - 视觉模态的类增量学习(CIL)问题,提出一种将冻结的多模态基础模型(MFMs)泛化的新框架。该方法利用音频表征作为任务稳定的上下文引导来辅助视觉表征,并结合特征与逻辑层面的蒸馏以缓解灾难性遗忘。在多个基准测试中表现优于现有最先进方法。代码已开源。
论文研究了预训练语言模型在不需成对图文数据或提示工程的情况下作为视觉训练轻量级辅助监督的可行性。评估涵盖六种泛化范式,发现显性引导在分布内、低数据和持续学习保留上表现稳定,隐性引导则在抗捷径与强对抗扰动时更有效。两者均参数开销小,为利用跨模态预训练模型提供实践路线图。
PRIMFLOW 直接学习代表累积位移的连续轨迹原语,通过监督有限差分避免预设时间基或固定查询网格。该方法在大规模文生图任务中实现一 NFE 下 T-FID 20.92、HPSv2 28.35,优于轨迹蒸馏基线且端点吸收后性能相当。研究建立了局部到全局误差界并引入端点吸收消除辅助分支,保持单网络评估推理效率。
论文提出 SceneP2F 两阶段可训练框架,连接场景感知联合规划与布局对齐生成,以支持对类别和数量有保真要求的检测数据集增强。该方法包含分配类标签查询的 ScenePlan 模块及结合几何外观条件、区域注意力与流匹配目标的 SceneAlign-Fill 模块。
针对黑盒大语言模型智能体缺乏特定环境知识的痛点,研究提出 PAWM(Pitfall Anticipation World Model),该方法仅在出现潜在失败风险时进行干预并预测即将发生的错误以引导智能体避坑。
论文系统性评估了学习率调度策略对神经网络分类准确性的影响,在 LEMUR 数据集的 30 种代表性架构中应用了 25 种调度配置,共测试 3,938 个模型变体。
该方法将样本可靠性估计重构为对观测标签更新诊断,利用反向空间经验 Fisher 迹捕捉标量损失之外的信息。提出的相对几何冲突(RGC)通过比较观测梯度与 EMA 教师参考梯度,有效区分难清洗样本的有益大更新与噪声导致的有害冲突。在合成及真实世界噪声标签基准测试中,该方法显著提升了硬清洁样本保留率与模型准确率。
LLM as a Tool 提出分层树状神经架构搜索框架,利用算法引导探索与 LLM 解决自由度相结合,避免生成偏差。该方法在 CIFAR-10、CIFAR-100 及 ImageNet16-120 数据集上分别比现有方法提升 0.69、1.83 和 2.68 点准确率。该预印本论文共 58 页,代码与权重暂未提及开放许可。
该论文针对现有稀疏线性注意力(SLA)依赖启发式分割及分解不匹配的问题,提出 SLA2 架构。其核心改进包括引入动态选择分支的可学习路由器、采用更忠实于数学定义的混合公式以及通过量化感知微调实现的低比特注意力设计。实验表明,在视频扩散模型上,该方法实现了 97% 的注意力稀疏度,带来 18.6 倍的速度提升,同时保持了生成质量。
针对机器视觉任务对低比特率图像压缩的高需求,本文提出了 SLIM 框架。该框架包含两个核心组件:在潜在空间聚焦于机器视觉任务中语义和功能重要的感兴趣区域(RoI)进行压缩,且推理时无需显式掩码;同时利用预训练的扩散模型,结合 RoI 关注的潜在表示与文本语义引导,对极低比特率下的严重信息损失进行补偿。
针对文本到图像扩散模型的概念擦除问题,现有方法依赖预定义语义锚点但缺乏对其选择影响的深入理解。本文通过因果溯源发现概念分散度与锚点敏感性及擦除鲁棒性的关系,提出 SELECT 框架,利用语义相近且属性互斥的兄弟概念构建反事实重定向端点和局部保留集,在抑制目标概念的同时减少副作用和概念重现。实验表明该方法在对象、名人、艺术家风格及 NSFW 等擦除任务上优于固定通用锚点。
推荐理由:通过因果溯源揭示锚点选择对概念擦除的影响,提出基于互斥概念的框架以平衡抑制与保留。
GMixout 提出一种将 Mixout 重构为单次运行、共享权重的隐式集成方法,通过控制掩码周期、使用指数移动平均快照及稀疏核更新参数,在消费级 GPU 上实现无推理开销的大模型微调。实验显示该方法在五基准测试中,面对协变量偏移和类别不平衡时,持续优于 Mixout、Model Soups 等强基线。该工作包含 32 页论文与 9 张图表,已上传至 arXiv 并投稿 Neurips 2026。
针对扩散模型在贝叶斯逆问题中依赖启发式近似的局限,本文提出一种基于集成的后验采样算法,通过推导包含修正扩散项和重加权项的偏微分方程实现精确采样。理论证明了误差界与预训练分数函数误差及粒子数相关,并在成像逆问题上验证了更高的重建精度。代码已开源,论文被 TMLR 2026 接收。
针对多模态大语言模型(MLLM)中现有剪枝方法在 OCR 和视觉定位等细粒度任务上表现不佳的问题,本文提出 Bifocal 方法。该方法采用无需训练的两阶段策略,通过混合粒度框架分配查询关注与图像内在证据的预算,并结合池化粗表示。
Graph3R 提出一种方法,将视图图初始化与前馈重建通过共享几何表示进行统一。该方法利用轻量级验证头从多视图特征中预测成对共视性以构建视图图,从而将输入视图分类为场景组,并在解码相机位姿和稠密几何前掩蔽共享特征。
该论文提出了 Think Before You Score 范式及 Thinking Reward Model(TRM),旨在解决现有方法直接映射任务条件与候选输出到标量奖励而忽略个体案例差异的问题。
针对冻结双编码器在复杂场景中检索微小或低显著性物体时表现下降的问题,论文提出无需训练的推理框架 MINER。该方法通过引入少量区域级嵌入库和修正相似度的重评分机制,弥补全局图像嵌入对局部视觉证据的不足。研究构建了基于 Flickr30K 和 MS COCO 高杂乱子集的基准 ROCS,并在 CLIP、SigLIP 等模型上验证了其在标准分割及新基准上的提升效果。
Exemplar 提出了一种闭式解的分割读出方法,能在数秒内精确更新每个新掩码,其线性读出结合了冻结的 DINOv3 特征与经典滤波器响应。该方法在十个涵盖细胞、血管和纤维的生物医学数据集上表现优于仅应用预训练模型的少样本方法及平均 nnU-Net 精度;虽然微调后的 Cellpose-SAM 基线平均精度相当,但拟合耗时中位数为 25 分钟且无法精确更新。
研究在 WeDAN 图扩散框架下,对 1925 个美国县、325 个英国区及 14 座全球城市测试了四种卫星视觉编码器。结果显示语言监督的 RemoteCLIP 分布内表现最强(CPC 0.602),而地理 grounded 的 AlphaEarth 在英国区零样本转移提升 33%;预训练规模大的 DINOv3 反而在分布内落后 0.091 CPC 且全球崩溃至 0.022。
该论文介绍 VISTA 框架,这是首个针对下一代自回归图像生成中组合约束的基于梯度的测试时优化方案。该方法构建于 Infinity 模型之上,通过冻结 Transformer 优化中间表示,无需参数更新或训练即可稳定跨尺度优化并接入任意可微交叉注意力约束。
推荐理由:提出首个基于梯度的测试时对齐框架,在不更新参数下提升视觉自回归模型的属性绑定与空间关系能力。
ZOMP 是一种仅需前向传播的深层多模态提示微调方法,在 5,000 次训练损失查询下实现跨 13 个数据集的平均 16-shot 准确率 68.2%,较 ZIP 提升 6.0 个点。该方法在五个图文检索数据集上优于四种无导数基线,平均双向 Recall@1 比 BPT-VLM 高出 2.63 点,同时降低训练内存占用并支持内部提示推理接口。
针对心脏超声左心室分割的跨数据集泛化难题,研究通过手工超声描述符、VAE 潜变量及分割衍生特征,在六个数据集上实现了域偏移的事前估计。几何感知预处理显著改善了部分转移退化案例,表明表观域偏移主要源于视野与构图不一致而非声学差异;绝对 Dice 下降预测的 R-squared 达 0.612,MAE 为 0.082。
SHOVIR 是一个针对放射学报告生成(RRG)任务的基准,旨在检测视觉语言模型是否过度依赖词汇先验或虚假相关性而非真实病理图像证据。该工作扩展了 MIMIC-CXR 和 PadChest-GR 数据集并引入细粒度标注,通过图像级与疾病级的遮挡实验区分了‘直接捷径’(移除视觉证据后预测仍成立)和‘上下文捷径’(目标区域完好但共病被遮挡导致检测下降)。
本文针对现有视觉语言模型(VLM)测试时扩展方法依赖开源权重或昂贵采样的局限,提出 Test-Time Hinting 方法。该方法基于 VLM 错误模式可预测的观察,训练轻量级提示生成器以输入为条件预测应添加的上下文或流程指引,从而在不泄露答案的情况下引导闭源模型避开典型失败模式。
论文将视觉文本压缩(VTC)建模为测度传输问题,提出无需下游标签的路由准则与聚焦重编码机制,在 Qwen3-4B 上显著降低 token 消耗并提升任务得分。材料仅给出 arXiv 预印本链接,未报告真实机器人部署结果或同行评审状态。
推荐理由:该文将视觉文本压缩建模为测度传输问题,提出无需下游标签的路由准则与聚焦重编码机制,在 Qwen3-4B 上显著降低 token 消耗并提升任务得分。
论文提出 CoDe-MAE 框架,通过条件对比学习(CCL)和跨模态退化目标预测(CDP)解决高分辨率光学与合成孔径雷达(SAR)的联合预训练难题。作者构建了包含 100 万样本的 OSPretrain-1M 数据集,并展示了 MMATR-X 模型在单模态及双模态任务上的领先迁移性能。实验还验证了该方法在遥感光 -DEM 及室内 RGB-depth 等异构模态对中的有效性。