跳到正文
11月4日周三
  1. arXiv · 机器人与计算机视觉75

    ResponsibleRobotBench:面向机器人操作的负责任决策基准

    ResponsibleRobotBench 是一个包含 23 种配置的操作任务基准,旨在评估大型多模态模型在风险感知、缓解行动选择及执行前提满足方面的能力。研究发现终端安全性与任务完成度可能分离,且防御提示对不同模型的影响方向各异;仅识别危险类别不足以保证可执行的缓解措施。该工作通过模仿学习与物理机器人序列实验,强调了协调缓解动作与目标行动的必要性,并提供了任务定义、检查条件及提示词附录。

  2. arXiv · 机器人与计算机视觉82

    Say the Same, Act Differently:诊断与引导推理 VLA 中的文本 - 动作分歧

    该研究针对推理型视觉语言动作(VLA)模型,发现视觉扰动可在保持生成理由逐字不变的情况下改变物理动作。在 Alpamayo 和 InstructVLA 模型上,基于文本中性残差子空间(TNAS)的干预比传统方法更高效地诱导动作变化且大幅降低文本漂移。

    推荐理由:论文揭示视觉扰动可独立于文本理由改变动作,提出 TNAS 诊断方法证明仅凭文本无法认证安全,需直接验证动作通道。

  3. arXiv · 机器人与计算机视觉78

    基于递归可行控制屏障函数的网联自动驾驶多智能体强化学习安全保障方法

    针对多智能体强化学习缺乏安全保证且传统控制屏障函数易不可行或过于保守的问题,本文提出 Backup-Horizon CBF 方法。该方法沿时间步长评估安全性直至车辆停止,在控制约束下保持递归可行性并精确考虑几何形状。

    推荐理由:提出递归可行控制屏障函数,在仿真中实现多智能体强化学习的安全保障与实时性。

  4. arXiv · 机器人与计算机视觉32

    Robustness Verification against Patch Attacks via Group-Lasso Semidefinite Relaxation 方法发布

    针对神经网络在物理贴片攻击下的鲁棒性验证难题,该方法提出基于群稀疏建模与半定松弛的新框架。实验显示其计算耗时不足原混合整数半定规划法的 3%,目标函数值仅增加 0.34%。Group-Lasso 松弛将验证成功率提升至 91%,显著优于此前低于 70% 的现有方法水平。

  5. arXiv · 机器人与计算机视觉65

    面向汽车雷达预碰撞场景的 AI 预测车辆参数物理一致性评估方法

    该论文提出一种基于物理一致性的评估框架,用于验证汽车雷达感知中由数据驱动模型生成的车辆假设。该方法利用包含遮挡依赖边缘可见性、方位角与角度相关的 RCS 建模以及车轮诱导多普勒特征的物理参考模型,生成预期的雷达特征,并通过基于 Wasserstein 距离的一致性指标(涵盖检测空间分布、局部计数和反射强度)将其与观测到的雷达点云进行对比。

  6. arXiv · 机器人与计算机视觉48

    场景图生成中的后门攻击研究:全局上下文路径是关键载体

    针对场景图生成(SGG)训练时的后门风险,研究揭示显式全局上下文路径是跨模型的主要攻击载体。在 Visual Genome 数据集上对 OvSGTR 和 RelationFormer 等模型的实验表明,推理阶段替换为干净的全局上下文表示可将攻击成功率分别降低 100% 和 97%。该论文已获 ACM MM 2026 接收,证实了全局上下文设计可能带来的安全隐患。

  7. arXiv · 机器人与计算机视觉84

    在线哈密顿 -雅可比可达性:用于安全关键自主系统的实时 GPU 求解器

    论文提出一种 CUDA 实现的 WENO5+TVD-RK3+Lax-Friedrichs 水平集哈密顿 -雅可比 -伊萨科求解器,可在机器人控制回路内运行。

    推荐理由:作者提出了一种可在机器人控制回路内实时运行的 GPU 求解器,为黑盒策略提供形式化安全保证。

11月3日周二
  1. arXiv · 机器人与计算机视觉48

    RoboChart 如何为机器人软件模型生成形式化验证证据以支持安全案例

    针对机器人系统部署于安全关键领域需证明其安全的挑战,该方法通过嵌入形式化验证到保障工作流中,利用 RoboChart 语言结合模型检测与定理证明自动生成证据。研究展示了从自然语言需求推导形式断言、编排多种验证工具及整合结果的有效性,相关预印本已接受发表于 Software and Systems Modeling。

  2. arXiv · 机器人与计算机视觉73

    BarrierFormer:一种基于 Transformer 的预测性屏障强制执行方法用于安全机器人控制

    论文提出了 BarrierFormer,这是一种通过监督学习实现模型无关安全控制的 Transformer 框架。该方法利用因果编码器处理观测 - 动作历史,自回归生成预测轨迹以替代动力学模型,并通过残差修正名义控制器;同时引入屏障批评家评估约束违反情况,由安全教师提供直接监督信号。

  3. arXiv · 机器人与计算机视觉35

    On the Limits of Sampling-Based Reachability:几何、动力学与样本复杂度研究

    针对哈密顿 -雅可比等经典方法随状态维度扩展性差的问题,该研究将基于采样的可达集恢复建模为几何支撑估计。理论证明在初始集补集具有正距离且动力学满足 Lipschitz 连续时,可获 Hausdorff 距离精度保证,但样本复杂度呈指数级依赖状态维与时域。实验证实对抗采样仅改善常数项而无法改变这一内在的指数缩放规律。

  4. arXiv · 机器人与计算机视觉58

    当外观与运动不一致时:针对伪装无人水面艇的类别 - 运动一致性评估

    该论文研究了计算机视觉系统在区分无害船只和恶意无人水面艇(USV)时的脆弱性。研究发现,对抗性船体补丁最多可抑制29%的检测率但不会导致误判为无害;而物理伪装能同时绕过摄像头和雷达检测。作者提出了一种基于AIS轨迹的混合回放协议,结合记录的运动与攻击路径,发现资产相对闭合速率检查在特定条件下比仅依赖轨迹速度的检查更有效,且两者互补可限制攻击者并延长其接近时间。

  5. arXiv · 机器人与计算机视觉78

    Context-Shielded Backdoor Attack against Large Vision-Language Models

    该论文揭示了大型视觉语言模型(LVLMs)在推理时使用视觉标记压缩时,传统后门会被激活而暴露风险。作者提出 StripWake 项目器仅后门方案,通过配对清洁监督与随机压缩视图并冻结良性教师对齐早期注意力,实现在全标记审计下保持低攻击成功率而在未见过的压缩器中高效触发,且无 CIDEr 损失。

    推荐理由:揭示大模型推理压缩会激活潜伏后门,提出 StripWake 方法在审计时保持休眠而在压缩后触发。

  6. arXiv · 机器人与计算机视觉48

    多模态大模型情境安全基准审计:揭示标签泄露与评分偏差

    研究提出“基准卡”并审计六个情境安全基准,发现仅凭图像尺寸即可以 82.3% 准确率泄露 MSSBench 的 SAFE/UNSAFE 标签。Spot-Stop 分解显示多数开源多模态大模型排名优于其标签评分,且共享阈值可修复部分偏差。该工作为物理 AI 领域评估模型在真实部署中的情境安全性提供了关键审计视角与修正方法。

  7. arXiv · 机器人与计算机视觉78

    Spoofing the Latent State:不可察觉的目标图像攻击破坏 LeWorldModel 的规划能力

    该论文研究了联合嵌入预测架构(JEPAs)在 LeWorldModel 中的测试时间鲁棒性。分析发现,物体状态主导了潜在距离,但编码器无法轻易隔离或重定向这种几何结构。实验表明,仅对单帧输入施加极小的白盒扰动即可让编码器将物体姿态记录为攻击者任意选择的状态,导致 Push-T 等任务的规划成功率从 87% 骤降至 32%,且该漏洞在四个标准基准测试中均存在。

    推荐理由:该研究揭示了 LeWorldModel 在测试时对微小图像扰动的脆弱性,攻击可诱导规划器将物体状态误判为任意姿态,导致任务成功率大幅下降。

  8. arXiv · 机器人与计算机视觉42

    AegisBench 审计空域搜救人员在真实灾害部署条件下的检测性能

    AegisBench 填补了无人机搜救系统在平静日光基准与洪水、火灾等极端灾害夜视任务间的评估鸿沟。该基准对 HERIDAL 和 SARD 数据集施加九种物理扰动,测试 Faster R-CNN、YOLOv11 及 RT-DETR 共 168 种工况,揭示低光导致召回率归零且微调无法迁移至真实夜视图像。

  9. arXiv · 机器人与计算机视觉68

    恶劣天气下目标检测模型的可靠性:面向自动驾驶的部署导向鲁棒性研究

    该论文评估了在晴朗白天场景上训练且未进行适应的目标检测架构在雾、雨、雪和夜间等未见环境下的表现。研究使用性能下降百分比(Drop)、天气鲁棒性指数(WRI)和关键道路参与者(如汽车、公交车、卡车、行人)的类别敏感度分析来衡量鲁棒性,并利用预期校准误差(ECE)测量预测置信度的可靠性。

  10. 量子位35

    Anthropic 更新招股书披露模型逼近 RSI 安全红线及 Q3 财务数据

    Anthropic 在更新招股书中披露,其下一代模型可能即将突破 AI 自进化(RSI)危险红线,导致能力提升速度超过安全措施实施能力。公司单季营收约 170 亿美元(同比暴增 1127%),但季度环比增速降至 47%,年化流水估算约为 650 亿美元。招股书同时承认研发加速证据多为滞后指标,且巨额亏损主要源于可转换票据公允价值变动而非现金消耗。

  11. 盖世汽车 · 汽车资讯67

    第一批具身智能公司倒在热钱翻涌中:复盘融资驱动型企业的生存困境与行业洗牌

    文章复盘了国内具身智能赛道在资本热潮下多家企业停摆或破产的现象,指出其核心症结在于现金流依赖下一轮融资而非产品交付,且真实需求尚未成熟。随着大额融资减少和监管趋严,资本定价逻辑正从为“可能性”转向为“确定性”,行业将进入洗牌期,最终只有上游核心零部件和具备稳定商业价值的头部企业能存活。

11月2日周一
  1. arXiv · 机器人与计算机视觉58

    TADP:面向表情感知的视频匿名化双重分支时序自适应差分隐私框架

    该论文提出了 TADP 框架,用于在固定长度片段替换邻域下实现推理时的隐私保护视频生成。该方法采用双分支设计提取身份和表情表征,利用时序自适应高斯机制对两分支进行加噪,噪声规模仅取决于同一片段内的先前私有化发布结果且受历史均匀校准最小值约束,并通过自适应 Rényi 差分隐私(RDP)组合处理联合发布。

  2. arXiv · 机器人与计算机视觉72

    VLA 策略不知何时不该行动:意外任务执行与启动抑制问题

    论文研究了六款 VLA 模型在 LIBERO-Goal 仿真环境中对空、中性或无意义指令的响应。结果显示所有模型在空指令下均会移动,且五款常完成未指定任务;GR00T 的两款虽由指令决定任务但无法抑制启动。测试了三种抑制方法:前缀提示无效,门控机制在五款中有效,微调策略虽不完成任务但无法可靠保持静止或抑制不可行指令下的启动。

  3. arXiv · 机器人与计算机视觉58

    耦合还是独立?智能医疗视觉系统中的故障耦合分析

    本文测试了在传感器读数不可信且工具与推理通道共享共同视觉故障时的安全性收益。研究基于分割、对比检索和迭代视觉语言推理器的皮肤病学代理,在 PAD-UFES-20 数据集上发现,字体注入产生可检测的方向性检索捕获,而物理腐蚀则不会。

  4. The Robot Report45

    VicOne 两日发现 28 个零日漏洞:AI 加速挖掘对机器人全生命周期安全的影响

    VicOne 利用 AI 辅助研究在不到两天内识别出涉及 Google、NVIDIA 和 Meta 等项目的 28 个零日漏洞,涵盖开发训练、仿真验证及部署运行三个机器人生命周期阶段。这些弱点可能影响模型构建与测试可信度,甚至导致远程停止指令失效,迫使团队加速响应并评估对机器人安全的具体影响。

11月1日周日
  1. 量子位42

    红旗连锁终止机器人无人售货系统研发:实验室锤炼上万次仍无法解决货架前抓取不稳与避障难题

    四川红旗连锁于 2026 年 7 月终止机器人无人售货系统研发,因机械臂在密集货架面对异形商品时抓取失误率高、稳定性不足且易摔碎玻璃瓶。尽管项目历经 16 个月研发并投入约 280 万元,但样机未达大规模商业化落地标准,无法替代店员处理复杂场景下的补货与交易任务。

10月31日周六
10月30日周五
  1. 盖世汽车 · 汽车资讯45

    香港理工大学揭示针对电动汽车充电导航系统的新型跨域网络攻击风险

    香港理工大学研究人员发现,攻击者无需入侵电力通信网,仅需操纵电动汽车充电导航系统即可引导大量车辆集中至同一充电站,引发局部停电或削弱电网可靠性。此类攻击源于防护较弱的驾驶员端系统,可传导威胁电力系统安全,为跨域网络防御提供新视角。

  2. arXiv · 机器人与计算机视觉48

    安全关键激光雷达惯性里程计:基于流形确定性保护水平的新方法

    针对现有机器人概率导航系统缺乏在线安全评估保护水平的问题,研究提出一种基于新型流形集合成员滤波器的安全关键激光雷达 - 惯性里程计(LIO)。该系统利用点云噪声与估计不确定性的闭式关系,设计了流形椭球体集合成员滤波器(OM-ESMF),为下游自主操作提供确定性的位置可行集作为安全参考。实验结果表明,该方法能为多种机器人在不同环境中提供有效的确定性在线安全参考。

  3. arXiv · 机器人与计算机视觉82

    接触丰富机器人任务的安全学习:从经典方法到安全基础模型的综述

    这篇论文是发表在 npj Robotics 上的综述,全面回顾了接触丰富机器人任务中基于学习的控制方法,特别是如何确保探索与执行阶段的安全性。文章将现有方法分为安全探索和 safe execution 两类,涵盖了约束强化学习、风险敏感优化、不确定性建模、控制屏障函数和模型预测安全盾等技术。

    推荐理由:该综述系统梳理了从经典方法到基础模型在接触丰富任务中的安全学习进展,为相关团队评估现有技术与未来方向提供参考。

  4. arXiv · 机器人与计算机视觉36

    扩散模型成员推断攻击中的时间难度校准方法研究

    针对标准重建损失法因图像固有难易度导致误判的问题,该方法提出沿训练时间和扩散时间双轴进行难度校准。通过引入参考模型校准(RMC)与时间自校准(TSC),成功将记忆化行为与图像重构难度分离,实现了无需文本描述的近乎完美的审计效果。实验表明,该方法在 x-、v-及ε预测等不同参数化架构上均显著优于现有攻击技术,相关代码已开源。

  5. arXiv · 机器人与计算机视觉50

    PASA-KV:针对世界动作模型中面向动作的视觉路由的攻击方法

    论文提出了一种名为 PASA-KV 的方法,旨在攻击世界动作模型(WAMs)内部表示与动作生成之间的脆弱性。研究发现,仅凭表示空间的扰动幅度无法可靠预测闭环控制失败,关键在于扰动如何被路由到动作生成环节。该方法通过 Tail-AV 信号识别易受攻击的路由,并选择面向动作的键值对目标进行训练。实验在多个 WAM 系统及物理机器人上验证了该方法的闭环攻击效果及系统间的抗扰差异。

  6. arXiv · 机器人与计算机视觉35

    Foundation Model Assurance Stack:神经符号架构与运行时保障的测试验证议程

    针对学习使能的 cyber-physical systems(CPS)缺乏系统级保证的问题,研究提出 Foundation Model Assurance Stack,通过神经符号架构、语义化形式化测试及组件化运行时监控约束基础模型。该方案在 arXiv 预印本中明确划分随机学习与形式推理的边界,旨在建立可认证且可部署的信任体系,涵盖从规范工程到生命周期认证的完整议程。

  7. arXiv · 机器人与计算机视觉73

    LOL 基准的隐藏标签偏移:低光照增强评测中的问题与报告建议

    该论文审计了 LOL-v1 和 LOLv2-Real 两个低光照图像增强标准基准,发现其测试集标签与训练集存在显著分布差异(如 LOLv2-Real 测试标签比训练暗 14%)。这种偏移导致依赖测试集调优的方法性能虚高,且移除官方发布的测试设置会改变方法排名。作者提供了具体的报告建议以区分可校准的偏差与仅靠测试集调优带来的增益。