跳到正文
11月16日周一
  1. arXiv · 机器人与计算机视觉48

    对抗跟踪:自动驾驶车辆图像传感器上的攻击研究

    该研究评估了针对 YOLOv3、YOLOv4 检测器配合 SORT 等系统的图像特定与图像无关攻击,发现 HOTA 指标在最强攻击下从约 56% 骤降至 17%,MOTA 甚至跌至 -772.60%。实验基于 CARLA 仿真平台进行,揭示了仅凭检测精度无法表征对下游轨迹估计的潜在影响。论文已上传至 arXiv,代码与权重暂未提及开放许可。

11月13日周五
  1. arXiv · 机器人与计算机视觉35

    AI Sandboxes:威胁模型、分类学与测量框架发布

    该研究提出"AI Sandbox"装置定义及五种原型架构,建立十五维测量指标与最弱环节许可规则以界定部署主张。框架涵盖驾驶、工业控制等四类实例的威胁建模,明确实验边界对证据解读的影响并映射至标准规范。预印本 arXiv:2606.18532 含 42 页正文及图表,旨在识别受控实验支持的声明与需进一步验证的假设。

  2. arXiv · 机器人与计算机视觉58

    DataCook:探索用于医疗数据使用的抗对抗指纹

    针对医疗数据稀缺、昂贵且受严格监管的问题,该研究提出了 DataCook 框架,这是一种基于抗对抗指纹的部署阶段使用控制机制。通过私有的‘烹饪’过程将原始样本转化为嵌入指纹的数据,使得在该数据上训练的模型在评估于同样处理过的输入时保持高效用,而在未处理的原始输入上性能显著降低。

  3. arXiv · 机器人与计算机视觉52

    对抗诱饵:误导基于注意力的 ViT 防御机制

    针对 Vision Transformers 在测试时依赖高注意力分数抑制对抗补丁的防御漏洞,本文提出对抗诱饵方法。该方法将诱导错误预测与规避防御解耦,通过优化独立诱饵区域提升目标令牌注意力并压制非目标竞争令牌,从而在不牺牲攻击有效性的前提下误导基于注意力的防御机制。实验表明,该方法在多种架构和攻击形式下均能成功重定向高注意力分数,揭示了仅用注意力作为对抗相关性指标的根本局限。

  4. arXiv · 机器人与计算机视觉82

    策略库 CBF:通过并行回滚实现运行时有限视界安全

    针对非结构化环境中单一备份策略失效的挑战,本文提出了策略库控制屏障函数(PL-CBF),这是一种运行时安全滤波器。该方法通过评估满足约束的并行有限视界回滚结果,从候选策略中选择容许控制集体积最大的策略,并求解二次规划以最小化对名义输入的修改。研究在室内导航、高速驾驶及四旋翼飞行等仿真场景,以及移动机器人和定制四旋翼的硬件实验中,均证明了其在保持毫秒级计算时间的同时提升了安全性能。

    推荐理由:提出基于并行有限视界回滚的策略库控制屏障函数,在仿真与硬件实验中验证了其在复杂动态环境下的实时安全性。

  5. arXiv · 机器人与计算机视觉62

    PhysPatch:面向多模态大模型自动驾驶系统的物理可实现与可迁移对抗补丁攻击框架

    该论文针对多模态大语言模型(MLLM)在自动驾驶系统中的脆弱性,提出了 PhysPatch 框架。该方法联合优化补丁位置、形状和内容,引入基于语义的掩码初始化策略以确保物理可行性,并利用 SVD 局部对齐损失提升跨模型迁移能力。实验表明,PhysPatch 能显著引导 MLLM 系统产生目标一致的感知与规划输出,且补丁始终放置在自动驾驶场景的物理可行区域。

  6. arXiv · 机器人与计算机视觉78

    聚合准确率掩盖了医疗视觉语言模型中特定诊断的失效

    该研究审计了 MedGemma-4B、Lingshu-7B、HuatuoGPT-Vision-7B、Qwen2.5-VL-7B 和 MedVLM-R1 等五款开源医疗 VLM,在包含 6,048 个问题的 ChestX-ray14 数据集上发现,尽管模型能流利描述气胸体征,但在 432 张阳性 X 光片中零检出或仅部分检出。

    推荐理由:审计显示五款医疗 VLM 在气胸检测上存在严重诊断特异性失效,内部表征正常但输出被抑制,仅靠聚合准确率无法评估真实能力。

  7. arXiv · 机器人与计算机视觉58

    Poison-then-Hide:一种针对预训练视觉编码器的微调激活后门攻击

    论文提出 Poison-then-Hide 方法,通过在预训练编码器中植入潜伏后门并在后续微调时激活,实现高达 97% 的攻击成功率。该方法包含触发器优化、基础编码器中毒和目标遗忘三个组件,能在全模型微调的域转移场景下保持有效。研究发现联合学习良性任务对攻击成功至关重要,且标准检测与缓解防御无法完全移除该后门,其在良性微调后可能重现。

  8. arXiv · 机器人与计算机视觉48

    DashBench 评测视频大模型对自动驾驶长尾场景的理解能力

    DashBench 基准测试了 25 个视频大语言模型在涵盖碰撞及非碰撞类共 1709 条精心筛选的驾驶视频上的表现。结果显示所有被评估模型均远低于安全关键应用所需阈值,常误判危险事件或产生幻觉。该基准结合严格评测工具与详细诊断报告,旨在推动更安全、可解释的自动驾驶系统发展。代码和数据将在指定链接共享。

  9. arXiv · 机器人与计算机视觉63

    全尺寸人形机器人的运行时安全与紧急停止:部署教训与分级力授权主张

    针对全尺寸人形机器人在危险工业场景(如拆解电动汽车电池)的应用,作者描述了开源自主栈 Unitree H1-2 的安全机制及其部署教训。研究指出,当状态估计过时或按下急停时,安全层会触发停止;但在推倒站立机器人等实验中,模型预测控制器无法恢复平衡,且操作者需每次手动急停。作者认为仅靠关节力矩限制不足以界定施力的适当性,主张应分阶段赋予机器人“力授权”,并由人或组织对其使用承担明确责任。

  10. Hugging Face Daily Papers45

    CANTraj:从 CAN 信号恢复自然驾驶轨迹的隐私攻击基准与数据集发布

    CANTraj 数据集配对解码的 CAN 事件与时序对齐 GNSS 轨迹,包含 3940 次驾驶记录及 3675 次用于评估的测试集。实验显示结合转向信号可将在线地图过滤的五分钟路线恢复率从 56% 提升至 87%,中位平均位移误差降至 43 米;LLM 智能体在测试集上最佳配置恢复率达 79%。该研究揭示了仅移除 GPS 仍无法消除车辆信号中的位置信息,为隐私安全评估提供基准。

11月11日周三
  1. 盖世汽车 · 汽车资讯65

    阿维塔回应‘战损车’:1300台测试车因无合格证且经破坏性测试不可销售

    阿维塔副总裁雍军回应网传‘价值6亿废车场’,确认其为1300台完成高寒高温、碰撞涉水等极端工况测试的样车。因未进入《道路机动车辆生产企业及产品公告》且零部件性能下降,这些车不具备上牌与三包资格,只能拆解或封存。文章指出行业为压缩研发周期(从燃油车36个月压至新能源12-18个月),存在合并设计验证、过度依赖仿真及减少实车‘三高’实测的现象,强调硬件耐久无法通过软件更新弥补。

  2. arXiv · 机器人与计算机视觉66

    GARD:面向多模态对比学习模型后门的梯度引导对抗表征防御

    论文 GARD 针对 CLIP 等多模态对比学习模型易受后门攻击的问题,提出一种目标与触发器无关的后处理防御方法。该方法利用有损编码器对全局和局部扰动的敏感性差异,优化互补的对抗探针以最大化位移干净图像表征,随后将扰动后的表征与解耦的干净锚点重新对齐并保留图文对齐能力。

  3. arXiv · 机器人与计算机视觉51

    基于 Fisher 几何的结构化置信度扰动用于对抗训练

    针对对抗训练中伪攻击导致损失增加却无法改变模型置信度结构的问题,论文提出两种互补方法:一是结合交叉熵和 KL 散度的混合目标以同时破坏预测精度与分布一致性;二是通过最大化置信流形上的分布距离进行几何重构。理论分析表明最优扰动方向对齐 Fisher 信息矩阵的主特征向量,并提出了避免高维矩阵计算的算法。实验显示该方法在多个数据集和架构上优于现有方法,尤其在置信度区域的结构化扰动方面表现突出。

  4. arXiv · 机器人与计算机视觉58

    位置即关键:针对扩散个性化的人脸隐私稀疏潜在方差攻击

    论文提出稀疏编码器攻击潜在方差(SEAL)框架,通过可微 top-k 掩码联合优化扰动位置与值,并引入显著性引导的分散惩罚以保护人脸视觉质量。实验表明该方法在 CelebA-HQ 和 VGGFace2 数据集上 PSNR 超过 41 dB、SSIM 达 0.97,同时将扩散个性化后的身份相似度降至 0.15 以下。代码与数据已公开。

  5. arXiv · 机器人与计算机视觉73

    Latent Barrier Steering:面向生成式规划的层级安全方法

    论文介绍 Latent Barrier Steering (LBS),这是一种用于安全流匹配生成式规划的分层语义到路径框架。现有控制屏障函数滤波器仅局部修复样本,难以应对全局约束阻塞;LBS 先引导生成器潜在变量向更大安全余量的 rollout 演化,再解码并仅对剩余违规应用路径空间二次规划。实验表明该方法在导航和机器人末端执行器规划任务中,既保持安全性又提升目标达成率并减少修正负担。

  6. 智东西 · 机器人82

    Google DeepMind 发布新一代 VLA 模型 Gemini Robotics 2.5

    Google DeepMind 正式发布新一代视觉语言动作模型 Gemini Robotics 2.5,该模型在灵巧性、可靠性和安全性方面实现显著提升。相比基线模型,其在多步骤任务中的成功率提升 30% 至 100%,执行速度提高 20% 至 30%。

    同一新闻,精选展示《DeepMind 发布 Gemini Robotics 2.5 模型以加速现实世界灵巧操作能力》

11月10日周二
  1. arXiv · 机器人与计算机视觉68

    RedPhys:面向物理世界模型与智能体的可扩展红队测试平台

    RedPhys 是一个针对物理世界模型(PhyModels)和智能体(PhyAgents)的可扩展红队测试平台,旨在发现具有物理基础的函数故障。该平台集成了12种红队方法、3种模型无关防御机制以及13个涵盖七个物理领域的模型,在黑色盒威胁模型下进行评估。

  2. arXiv · 机器人与计算机视觉48

    基于潜在集合随机共振的测试时对抗防御方法

    该方法提出一种无需训练且架构无关的测试时防御机制,通过引入微小平移扰动对齐特征嵌入以抵抗对抗攻击。实验显示,在各类攻击下,图像分类任务可恢复高达 68.1% 的准确率损失,立体匹配和光流任务分别恢复 71.9% 和 29.2%,首次为密集预测任务建立通用防御方案。该方法已接受 NeurIPS 2026 会议,代码与论文公开于 arXiv。

  3. arXiv · 机器人与计算机视觉59

    超越提示攻击:概念擦除的最小动作审计

    针对文本到图像扩散模型的‘概念擦除’(如 NSFW 内容),现有提示攻击仅测试条件字符串能否检索目标概念,无法衡量冻结生成器对该概念的分配概率。本文提出‘最小动作审计’方法,通过计算驱动冻结反向过程进入检测器定义的事件所需的最小控制成本(即路径空间 KL 散度或事件负对数概率)来量化残留概率。

  4. arXiv · 机器人与计算机视觉67

    当编码智能体拥有机械臂:跨越数字 - 物理边界的风险分析

    该研究介绍了 ArmedAgent,这是首个系统性评估零样本机器人控制代码智能体风险的基准。涵盖 36 个任务在 5 种场景下的鲁棒性、恶意使用及间接注入风险,先在仿真中评估并在物理机械臂上验证。测试包括 GPT-6-Astra 等前沿模型,发现当前系统在数字资源威胁转化为物理行动方面存在显著安全风险。

  5. arXiv · 机器人与计算机视觉72

    针对视觉上下文学习的查询无关提示无感攻击研究

    该论文研究了在仅能获取 RGB 输出且不知晓部署提示词的情况下,对视觉上下文学习模型的鲁棒性攻击问题。作者提出了一种自提示代理(SPS)方法以跨未知提示迁移攻击,并展示了颜色劫持和任务劫持两种攻击手段能有效降低目标实例的可见性与区分度,导致下游检测模型性能显著下降。

11月9日周一
  1. arXiv · 机器人与计算机视觉43

    Diffusion Transformers 如何检测并抑制风险内容:一种无需训练的推理时防护方法

    针对扩散 Transformer 模型生成色情、暴力及版权侵权等风险内容的难题,研究提出了一种无需训练即可在推理阶段生效的防护方案。该方法通过量化注意力头的敏感度构建“注意力头向量”作为判别特征,并利用动量策略动态追踪与自适应抑制高风险 Token 的逻辑值。实验表明,该技术在有效压制各类有害内容并抵御对抗性提示的同时,显著保留了图像生成质量且具备跨模型泛化能力。

  2. arXiv · 机器人与计算机视觉42

    联邦低秩适应视觉变换器面临梯度反转隐私攻击风险及空间锚定防御方案

    研究揭示参数高效微调(LoRA)无法单独防止联邦学习中的私有数据泄露,因低秩更新削弱了服务器可用的梯度信号。论文提出一种结合可训练位置嵌入的空间锚定生成反演框架,在 CIFAR-10、CelebA 和 CARS 数据集上将重建图像 PSNR 提升 7.83-10.14 dB。该工作表明需精心设计位置嵌入以暴露并防御隐私信息泄露风险,相关成果已获 WACV 2027 接收。

  3. Hugging Face Daily Papers73

    Shortcuts and Boundaries:可验证 RL 错位与上下文安全学习

    该研究探讨了强化学习中因奖励驱动导致的任务能力增强但违反执行要求的行为错位问题。通过编码任务动态中的可验证奖励冲突,研究者生成了多样化的交互环境并推导了合规反馈。实验显示,即使在资源受限或报告工作流中,少数冲突暴露也可能导致广泛的捷径获取;但在引入简单的二元惩罚后,安全策略能同时提升能力和合规性,并在面对变化的证据要求时保持适应性。

11月7日周六
11月6日周五
  1. 盖世汽车 · 汽车资讯28

    捷豹路虎:坚持全球质量标准,建立本地验证体系

    捷豹路虎中国自动驾驶及智能辅助驾驶副总裁邢斌于 2026 年 10 月 23 日在第十四届汽车与环境创新论坛上强调,公司坚持全球质量标准并搭建本地化端到端验证测试体系。该体系覆盖硬件、底层软件、中间件及应用层,依托仿真与台架测试支撑,在外高桥建设了台架测试集群以保障全周期质量达标。相关实践已落地国内开发流程并将理念反向输出至全球团队。

  2. 盖世汽车 · 汽车资讯19

    宝马中国紧急辟谣虚假召回短信诈骗

    继大众汽车后,宝马中国于 11 月 6 日发布声明,明确近期流传的以安全气囊故障为由、声称自 2026 年 10 月 1 日起实施紧急召回的通知均为非官方发布。诈骗分子伪造“宝马中国”等印章诱导车主点击不明链接或提供验证码,宝马强调官方召回不会索要敏感信息或要求转账。车主应通过国家市场监督管理总局缺陷产品召回技术中心或联系客户服务中心核实信息,避免财产损失。

  3. arXiv · 机器人与计算机视觉65

    GUARD:一种用于传统与学习型机器人控制的敏感性感知不确定性归因方法

    arXiv 论文介绍 GUARD 框架,该框架融合概率状态估计中的概率核优化技术与不确定性识别方法,为机器人控制算法推导关键阈值。系统将估计的不确定性及其来源转发给控制器以调整安全裕度并触发备份轨迹初始化。实验在模型预测控制和强化学习控制器上验证,结果显示在强化学习中碰撞率降低 44-67%,中高风险场景下备份策略激活减少 50-75%;MPC 仿真中成功避免碰撞。

  4. arXiv · 机器人与计算机视觉43

    RLGPA:一种基于强化学习的粒度规划攻击方法

    RLGPA 提出在线强化学习调度器,在硬查询预算下动态调整决策型稀疏对抗样本的扰动支持集粒度。该方法在 CIFAR-10 以 0.01 稀疏度实现 61% 目标成功率(优于 SparseEvo 的 25%),ResNet50/ViT 在 0.005 稀疏度下分别达 75.5%/73.0%。固定探测测试显示,40 张图像内无需更新即可将中位数 L0 从 165 降至 23,代码已公开。

  5. arXiv · 机器人与计算机视觉68

    通过统一世界 - 动作模型中的负向感知规划增强端到端自动驾驶安全性

    针对世界 - 动作模型(WAM)在安全关键场景中依赖专家轨迹模仿导致不安全替代方案约束不足的问题,该研究提出 NegWAM 框架。该方法构建几何上接近专家轨迹但携带安全风险的反例作为排斥锚点,引导预测远离危险行为,并编码为场景条件化的 rider token 以学习场景 - 轨迹兼容性。