跳到正文
  1. arXiv · 机器人与计算机视觉82

    随着学生模型 rollout 继续,视觉后门持续增长:在线蒸馏中的后门传播风险研究

    本文针对视觉语言模型的在线蒸馏(OPD)范式,挑战了其对后门传播具有天然抵抗力的直觉。研究发现,一旦超过临界阈值,攻击成功率会迅速接近 100%,且该过程不依赖显式恶意响应,而是由教师模型分配的异常概率质量累积驱动。作者提出了一种无需显式注入触发器的新型触发器设计,揭示了 OPD 中被忽视的后门传播机制及其潜在安全风险。

    推荐理由:该文挑战了在线蒸馏对后门传播具有天然抵抗力的直觉,揭示了在特定阈值下攻击成功率可达 100% 的机制及无需显式触发器的新设计。

  2. arXiv · 机器人与计算机视觉82

    Wrong Input, Wrong Threshold:重新评估对抗性面部隐私

    该论文发现现有面部隐私保护方法的评测结果存在缺陷:输入端直接喂入整图或检测框而非对齐裁剪,导致防御效果被高估;阈值设定沿用旧标准,在整图上产生偏差。作者通过引入可微分对齐算子并修正评分方式,在不重新生成图像的情况下,将转移攻击的规避保护降低了 56%,预算分配攻击降低 7%。实验显示,修正后的方法在三个未见识别器上性能提升显著,且改变了 L-infinity 转移攻击的排名顺序。

    推荐理由:文章指出既有面部隐私评测因输入与阈值设定错误而高估了防护效果,并给出可复用的修正方法与实验数据。

  1. arXiv · 机器人与计算机视觉78

    当后门可以被关闭:针对视觉语言动作模型的感知抑制后门攻击

    该论文研究了视觉语言动作(VLA)模型中的新型后门攻击,提出结合触发器激活与指令条件抑制的设计。研究通过三种变体(跨模态触发、自抑制触发和多触发)在 SmolVLA 和 OpenVLA 上进行了评估,结果显示此类攻击能显著降低检测率并维持高成功率,同时保持清洁任务的完美性能,确立了条件抑制作为评估 VLA 后门威胁的重要维度。

    推荐理由:该研究揭示了 VLA 模型中可被指令条件抑制的后门攻击机制,为评估此类安全威胁提供了新的维度。

  1. arXiv · 机器人与计算机视觉78

    聚合准确率掩盖了医疗视觉语言模型中特定诊断的失效

    该研究审计了 MedGemma-4B、Lingshu-7B、HuatuoGPT-Vision-7B、Qwen2.5-VL-7B 和 MedVLM-R1 等五款开源医疗 VLM,在包含 6,048 个问题的 ChestX-ray14 数据集上发现,尽管模型能流利描述气胸体征,但在 432 张阳性 X 光片中零检出或仅部分检出。

    推荐理由:审计显示五款医疗 VLM 在气胸检测上存在严重诊断特异性失效,内部表征正常但输出被抑制,仅靠聚合准确率无法评估真实能力。

  1. arXiv · 机器人与计算机视觉82

    GhostTac:一种无需物理接触的触觉传感器电磁干扰攻击方法

    GhostTac 是一种针对机器人触觉传感器的无接触攻击方法,利用电磁干扰(EMI)的非线性整流效应和带宽限制放大特性,绕过板载滤波器制造持续的直流偏移,从而稳定地扭曲测量结果。

    推荐理由:该研究揭示了电磁干扰可无接触操控触觉传感器的新攻击向量,并在多种传感器与灵巧手上验证了有效性。

  1. arXiv · 机器人与计算机视觉78

    Context-Shielded Backdoor Attack against Large Vision-Language Models

    该论文揭示了大型视觉语言模型(LVLMs)在推理时使用视觉标记压缩时,传统后门会被激活而暴露风险。作者提出 StripWake 项目器仅后门方案,通过配对清洁监督与随机压缩视图并冻结良性教师对齐早期注意力,实现在全标记审计下保持低攻击成功率而在未见过的压缩器中高效触发,且无 CIDEr 损失。

    推荐理由:揭示大模型推理压缩会激活潜伏后门,提出 StripWake 方法在审计时保持休眠而在压缩后触发。

  1. arXiv · 机器人与计算机视觉82

    少步即浪费?面向安全的少步文本到图像模型研究

    论文发现少步蒸馏文本到图像模型存在速度与安全的内在张力:加速推理会显著提升不安全生成率且削弱现有概念擦除方法的效果。为此,作者提出 DICE 方法,通过调整潜在空间构建与生成保持损失以适配蒸馏过程,在 FLUX Schnell 上将不安全生成率从至少 0.161 降至 0.046,同时保留良性生成质量。该工作已接受发表于 IEEE S&P 2027。

    推荐理由:针对少步蒸馏模型加速导致不安全生成率上升的问题,提出适配蒸馏过程的擦除方法 DICE,将 FLUX Schnell 的不安全生成率降至 0.046。

  1. arXiv · 机器人与计算机视觉78

    基于不确定性的 LiDAR 目标检测功能适用性分析评估

    针对 ISO 21448 SOTIF 安全分析需求,本文提出一种将不确定性阈值转化为触发条件的评估方法,以判定 ML 基 LiDAR 目标检测器在不同条件下的性能目标适用性。

    推荐理由:提出将不确定性阈值转化为触发条件的评估方法,指出在 KITTI 和 nuScenes 数据集上独立样本不足且跨条件转移难以满足性能目标。

  2. arXiv · 机器人与计算机视觉78

    PhaseBreak:一种针对未授权图生视频动画的主动时间域防护方法

    该论文提出 PhaseBreak 方法,旨在防止肖像照片被用于未授权的图生视频(I2V)运动合成。该方法通过在发布前对图像施加有界扰动,利用中间去噪器特征与清洁特征的时序重排匹配机制,在保持图像共享工作流的同时破坏下游运动生成能力。实验表明,受保护图像能诱导更大的短期运动变化和更低的时序规律性,从而阻碍基于释放图像的稳态运动定制。

    推荐理由:提出 PhaseBreak 方法,通过重排特征时序在保护肖像隐私的同时保持图像可用性。

  3. arXiv · 机器人与计算机视觉78

    A Canary in the Neural Mine:捕捉图像分类器的沉默失败

    该预印本论文指出最大 Softmax 概率(MSP)存在结构盲点,无法检测正交于其梯度方向的特征变化。作者提出 CANARY,一种无需训练的故障检测器,通过计算倒数第二层特征的 PCA 残差的 kNN 距离并进行百分位校准,与 MSP 融合以识别高置信度错误。

    推荐理由:提出无需训练的 CANARY 检测器,利用残差分布捕捉高置信度错误,在自然分布偏移下显著优于标准 MSP。

  1. arXiv · 机器人与计算机视觉82

    PhantomTac:利用部署即忘标签劫持机器人触觉系统

    该研究发现了磁触觉传感器存在的物理漏洞 PhantomTac,攻击者仅需在物体表面粘贴厚度约 0.5 mm、无电池的磁性标签即可篡改力感知数据。实验表明,这种隐蔽的攻击能绕过现有抗干扰机制并劫持闭环控制流程,在抓取位置偏移小于 8 mm 时攻击成功率超过 95%,可导致捏碎或掉落物体。论文提出了多模态一致性防御机制以缓解此类物理层安全威胁,相关内容已接受于 ACM CCS 2026。

    推荐理由:研究揭示了磁触觉传感器的物理漏洞,提出了一种无需接触设备的隐蔽攻击方案及多模态一致性防御机制。

  2. arXiv · 机器人与计算机视觉78

    Ghost Attack:用 19 世纪光学错觉欺骗 21 世纪生物识别系统

    该研究提出'Ghost Attack'攻击方法,利用低成本自由空间硬件和透明介质将高分辨率面部数据投射到物理三维空间,成功绕过现代人脸识别系统的匹配器、呈现攻击检测和变形攻击检测三个组件。

    推荐理由:论文提出利用 Pepper's Ghost 原理的'Ghost Attack',证明透明投影可绕过现代人脸识别系统的匹配与防御模块。

  3. arXiv · 机器人与计算机视觉82

    当编辑意图被拆分:一种针对大型图像编辑模型的跨模态越狱攻击

    本文形式化了大型图像编辑模型中有害意图分布在多模态输入下的风险,提出 Split-Intent Jailbreak Attack (SIJA) 方法,通过将编辑指代放在文本而将关键安全动作隐藏在视觉语义中。

    推荐理由:该工作提出跨模态越狱攻击并构建基准,揭示大图像编辑模型在图文意图拆分时的安全隐患。

  1. arXiv · 机器人与计算机视觉78

    FusionAudit:面向原生多模态模型的基于路径条件的鲁棒性审计

    论文介绍 PaRMA 审计框架与 FusionAudit 工具集,针对视觉语言模型从冻结编码器向原生架构过渡时的复杂性,定义像素扰动和渲染文本插入两类干预下的路径条件风险。

    推荐理由:提出基于路径的鲁棒性审计框架,揭示原生多模态模型在像素扰动与渲染文本插入下的新脆弱点。

  2. arXiv · 机器人与计算机视觉78

    Vision Transformers 中的虚假注意力头:医学胸部 X 光分析中标注驱动偏差的机制识别

    论文应用机制可解释性方法,在 ViT-Base 16 模型中定位到一个专门读取注释文本而非肺病理的单一注意力头(L8H10)。因果验证证实该行为由标注内容驱动,移除后肺部注意力增加。该现象在 NIH ChestX-ray14、DeiT-Base 和 ViT-Large 16 三个架构上复现。全量微调无法抑制该偏差甚至可能强化它,且单头消融显示输出级评估完全无法察觉此因果电路。

    推荐理由:通过机制可解释性发现 ViT 模型在医疗影像中利用注释文本而非病灶进行推理的虚假注意力头,且该偏差无法通过微调消除。

  3. arXiv · 机器人与计算机视觉78

    超越静态线索:基于双流轨迹分析的统一多模态大模型后门动态检测

    针对多模态大语言模型(MLLMs)在后门攻击下的脆弱性,现有防御方法受限于对静态快照的依赖及特定启发式规则。本文提出 EVO-Detect 框架,将诊断范式从静态观察转向动态输出演化监测。

    推荐理由:提出 EVO-Detect 框架,通过监测解码过程中的注意力流与 logits 流动态演化来检测多模态大模型后门攻击。

  4. arXiv · 机器人与计算机视觉82

    水印有效即身份无效:空间 - 谱对抗性人脸规避与水印保留

    该研究提出了一种在水印保护设置下的对抗性人脸规避攻击(PGD-L_2),旨在暴露仅依赖溯源或篡改检测无法保证可靠生物特征身份的结构性缺口。实验在受控面部图像、两种水印方案及两个数据集上评估,结果显示攻击在操作阈值下逃逸率超过 92%,同时保持 StegaFormer 水印恢复率高于 93% 和 FaceSigns 高于 99.7%,视觉质量 PSNR 高于 47dB。

    推荐理由:论文揭示了水印有效但生物特征识别失效的结构化漏洞,在保持水印可恢复的同时实现了高逃逸率。

  5. arXiv · 机器人与计算机视觉78

    GeoCloak:一种通过边缘线索操作实现语义保留的地理位置隐私代理框架

    针对大视觉语言模型(LVLM)从单张图片推断用户位置带来的隐私风险,本文提出 GeoCloak 代理框架。该框架利用地理定位线索与视觉信息的不对称性,作为感知线索的规划器分析图像,识别关键地理线索并执行针对性的语义编辑以直接抑制这些边缘线索,同时自主配置对抗扰动进一步压制残留特征。

    推荐理由:提出 GeoCloak 框架,利用边缘线索操作在保持语义的同时显著降低图像地理定位精度。

  1. arXiv · 机器人与计算机视觉82

    DRIFT:利用对抗补丁破坏流匹配 VLA 的去噪轨迹

    论文指出流匹配视觉语言动作(VLA)模型如 pi0 声称的抗干扰能力存在幻觉,源于以往攻击忽略了多步去噪常微分方程。作者提出 DRIFT 方法,通过在机器人夹爪上放置单个通用对抗补丁,仅攻击第一个去噪步骤即可破坏任务求解率。实验在四个 LIBERO 套件上的 pi0 和 pi0.5 模型验证了该方法的有效性,其效果远超动作空间和嵌入空间的攻击基线。

    推荐理由:该工作揭示了流匹配 VLA 模型在去噪轨迹上的脆弱性,提出了一种仅需攻击首个去噪步骤的通用对抗补丁方法。

  1. arXiv · 机器人与计算机视觉82

    OrthoPurify:通过移除劫持方向净化带后门的视觉语言模型

    针对大视觉语言模型(LVLM)在后门攻击下的脆弱性,本文提出 OrthoPurify 方法,利用伪良性参考模型识别并移除被劫持的权重更新方向。该方法仅需单步正交投影即可在无需重训或引入推理开销的情况下,将攻击成功率降至近零,同时保持原有性能。代码已公开。

    推荐理由:提出 OrthoPurify 方法,通过单步正交投影移除后门方向,无需重训或推理开销即可将攻击成功率降至近零。