跳到正文
11月18日周三
  1. arXiv · 机器人与计算机视觉84

    LLM 控制的社交机器人面临网络暴露的配置攻击风险

    该预印本研究了 LLM 在具身机器人中的安全依赖问题,发现可通过管理接口在未认证情况下替换人格设置和系统提示词。实验表明配置层攻击路径能引发物理硬件行为变化,而推理层的对抗输入被抵抗。

    推荐理由:研究揭示了具身智能机器人管理接口存在配置层攻击漏洞,证明仅靠推理层的拒绝无法阻止未授权指令修改。

  2. arXiv · 机器人与计算机视觉17

    FRETISH 工具将机器人辅助穿衣任务的 146 条自然语言危害需求形式化为 117 条唯一要求,揭示时序约束占比及分类互补性

    研究利用 FRET 工具将机器人辅助穿衣(RAD)案例的 146 条自然语言危害需求形式化为 117 条唯一 FRETISH 要求。分析显示 70.1% 的要求包含即时响应或顺序约束,且形式化过程暴露了歧义与假设。该工作证明 HRT 分类学与形式化方法提供互补视角,为机器人系统验证提供了从非结构化语言到可验证表示的过渡支持。

11月17日周二
  1. arXiv · 机器人与计算机视觉56

    通过广义闭包条件的可迁移神经 CBFs

    针对欠驱动车辆安全约束设计困难且保守的问题,本文提出一种将验证过的相对坐标屏障迁移至同一家族中所有障碍物的方法。核心贡献包括表达状态相对于每个障碍物的广义闭包条件、将缺失信息表示为残差的提升定理,以及用于识别对称性不足情况的秩检验。作者在双积分器、平面飞机和 12 自由度四旋翼上验证了该方法,证明其能在无需重新训练的情况下迁移到新地图中,并在部署与快速启动实验中有效。

  2. arXiv · 机器人与计算机视觉73

    AVD:一种具备安全感知控制的遥操作轮椅平台

    该论文提出了 AVD 系统,这是一个基于商用硬件构建的低成本多传感器遥操作轮椅平台,旨在解决严重运动与视觉障碍人士的独立移动问题。其核心贡献在于设计了以安全为导向的控制架构,确立了手动紧急停止和乘员摇杆优先于远程指令的静态权限层级,并实现了计算功能的分区与安全状态的心跳驱动切换。

  3. arXiv · 机器人与计算机视觉73

    蒸馏安全滤波器用于免滤波器多智能体强化学习

    论文提出一种方法,将控制屏障函数(CBF)的安全约束蒸馏到强化学习策略中,使系统在部署时无需运行集中式优化滤波器即可保持安全。该方法通过隐式 Q 学习和合成近碰撞状态进行蒸馏,证明了损失函数能界定策略的约束违反程度和碰撞概率。

11月13日周五
  1. arXiv · 机器人与计算机视觉82

    策略库 CBF:通过并行回滚实现运行时有限视界安全

    针对非结构化环境中单一备份策略失效的挑战,本文提出了策略库控制屏障函数(PL-CBF),这是一种运行时安全滤波器。该方法通过评估满足约束的并行有限视界回滚结果,从候选策略中选择容许控制集体积最大的策略,并求解二次规划以最小化对名义输入的修改。研究在室内导航、高速驾驶及四旋翼飞行等仿真场景,以及移动机器人和定制四旋翼的硬件实验中,均证明了其在保持毫秒级计算时间的同时提升了安全性能。

    推荐理由:提出基于并行有限视界回滚的策略库控制屏障函数,在仿真与硬件实验中验证了其在复杂动态环境下的实时安全性。

  2. arXiv · 机器人与计算机视觉63

    全尺寸人形机器人的运行时安全与紧急停止:部署教训与分级力授权主张

    针对全尺寸人形机器人在危险工业场景(如拆解电动汽车电池)的应用,作者描述了开源自主栈 Unitree H1-2 的安全机制及其部署教训。研究指出,当状态估计过时或按下急停时,安全层会触发停止;但在推倒站立机器人等实验中,模型预测控制器无法恢复平衡,且操作者需每次手动急停。作者认为仅靠关节力矩限制不足以界定施力的适当性,主张应分阶段赋予机器人“力授权”,并由人或组织对其使用承担明确责任。

11月11日周三
  1. arXiv · 机器人与计算机视觉73

    Latent Barrier Steering:面向生成式规划的层级安全方法

    论文介绍 Latent Barrier Steering (LBS),这是一种用于安全流匹配生成式规划的分层语义到路径框架。现有控制屏障函数滤波器仅局部修复样本,难以应对全局约束阻塞;LBS 先引导生成器潜在变量向更大安全余量的 rollout 演化,再解码并仅对剩余违规应用路径空间二次规划。实验表明该方法在导航和机器人末端执行器规划任务中,既保持安全性又提升目标达成率并减少修正负担。

  2. 智东西 · 机器人82

    Google DeepMind 发布新一代 VLA 模型 Gemini Robotics 2.5

    Google DeepMind 正式发布新一代视觉语言动作模型 Gemini Robotics 2.5,该模型在灵巧性、可靠性和安全性方面实现显著提升。相比基线模型,其在多步骤任务中的成功率提升 30% 至 100%,执行速度提高 20% 至 30%。

    同一新闻,精选展示《DeepMind 发布 Gemini Robotics 2.5 模型以加速现实世界灵巧操作能力》

11月10日周二
  1. arXiv · 机器人与计算机视觉67

    当编码智能体拥有机械臂:跨越数字 - 物理边界的风险分析

    该研究介绍了 ArmedAgent,这是首个系统性评估零样本机器人控制代码智能体风险的基准。涵盖 36 个任务在 5 种场景下的鲁棒性、恶意使用及间接注入风险,先在仿真中评估并在物理机械臂上验证。测试包括 GPT-6-Astra 等前沿模型,发现当前系统在数字资源威胁转化为物理行动方面存在显著安全风险。

11月6日周五
  1. arXiv · 机器人与计算机视觉65

    GUARD:一种用于传统与学习型机器人控制的敏感性感知不确定性归因方法

    arXiv 论文介绍 GUARD 框架,该框架融合概率状态估计中的概率核优化技术与不确定性识别方法,为机器人控制算法推导关键阈值。系统将估计的不确定性及其来源转发给控制器以调整安全裕度并触发备份轨迹初始化。实验在模型预测控制和强化学习控制器上验证,结果显示在强化学习中碰撞率降低 44-67%,中高风险场景下备份策略激活减少 50-75%;MPC 仿真中成功避免碰撞。

  2. arXiv · 机器人与计算机视觉38

    安全证书函数综述:Hamilton-Jacobi 可达性与控制屏障函数技术

    Hao Wang 等人发布 arXiv 教程,系统综述 Hamilton-Jacobi 可达性分析与控制屏障函数(CBFs)两类方法在合成安全证书中的应用。文章介绍经典与学习工具,并通过车辆系统基准对比不同方法的证书质量以提供选型指导。该预印本论文暂未开放代码或权重下载,仅作为理论参考。

11月5日周四
  1. arXiv · 机器人与计算机视觉68

    PS2-RL:一种可扩展且可证明安全的强化学习框架

    论文提出了 PS2-RL 框架,旨在解决传统方法在提供形式化安全保证与可扩展性之间的权衡问题。该方法利用学习到的备份策略在线生成隐式控制不变集,无需显式计算不变集即可实现快速恢复和端到端训练。理论分析表明该框架可应用于任意现有强化学习算法,并在高达 10 维状态空间的机器人控制任务中验证了其性能与安全性。

  2. arXiv · 机器人与计算机视觉78

    超越终端约束:基于学习的安全集实现可靠机器人控制

    针对模型预测控制和强化学习中确保安全性的挑战,本文引入新型安全集类,其范围优于传统控制不变集。通过限制预测时域内不同节点而非仅终端状态来保证递归可行性;若安全集为控制不变集的内近似,则可通过安全中止策略确保安全性。在六关节机器人操作臂的广泛仿真及硬件实验中,该方法相比最先进方法减少了约束违反,同时保持了相当的跟踪性能和计算效率。

    推荐理由:提出超越终端约束的安全集新方法,在仿真与硬件实验中验证了比现有方法更少的约束违反且保持跟踪性能。

11月4日周三
  1. arXiv · 机器人与计算机视觉75

    ResponsibleRobotBench:面向机器人操作的负责任决策基准

    ResponsibleRobotBench 是一个包含 23 种配置的操作任务基准,旨在评估大型多模态模型在风险感知、缓解行动选择及执行前提满足方面的能力。研究发现终端安全性与任务完成度可能分离,且防御提示对不同模型的影响方向各异;仅识别危险类别不足以保证可执行的缓解措施。该工作通过模仿学习与物理机器人序列实验,强调了协调缓解动作与目标行动的必要性,并提供了任务定义、检查条件及提示词附录。

  2. arXiv · 机器人与计算机视觉82

    Say the Same, Act Differently:诊断与引导推理 VLA 中的文本 - 动作分歧

    该研究针对推理型视觉语言动作(VLA)模型,发现视觉扰动可在保持生成理由逐字不变的情况下改变物理动作。在 Alpamayo 和 InstructVLA 模型上,基于文本中性残差子空间(TNAS)的干预比传统方法更高效地诱导动作变化且大幅降低文本漂移。

    推荐理由:论文揭示视觉扰动可独立于文本理由改变动作,提出 TNAS 诊断方法证明仅凭文本无法认证安全,需直接验证动作通道。

  3. arXiv · 机器人与计算机视觉84

    在线哈密顿 -雅可比可达性:用于安全关键自主系统的实时 GPU 求解器

    论文提出一种 CUDA 实现的 WENO5+TVD-RK3+Lax-Friedrichs 水平集哈密顿 -雅可比 -伊萨科求解器,可在机器人控制回路内运行。

    推荐理由:作者提出了一种可在机器人控制回路内实时运行的 GPU 求解器,为黑盒策略提供形式化安全保证。

11月3日周二
  1. arXiv · 机器人与计算机视觉48

    RoboChart 如何为机器人软件模型生成形式化验证证据以支持安全案例

    针对机器人系统部署于安全关键领域需证明其安全的挑战,该方法通过嵌入形式化验证到保障工作流中,利用 RoboChart 语言结合模型检测与定理证明自动生成证据。研究展示了从自然语言需求推导形式断言、编排多种验证工具及整合结果的有效性,相关预印本已接受发表于 Software and Systems Modeling。

  2. arXiv · 机器人与计算机视觉73

    BarrierFormer:一种基于 Transformer 的预测性屏障强制执行方法用于安全机器人控制

    论文提出了 BarrierFormer,这是一种通过监督学习实现模型无关安全控制的 Transformer 框架。该方法利用因果编码器处理观测 - 动作历史,自回归生成预测轨迹以替代动力学模型,并通过残差修正名义控制器;同时引入屏障批评家评估约束违反情况,由安全教师提供直接监督信号。

  3. 盖世汽车 · 汽车资讯67

    第一批具身智能公司倒在热钱翻涌中:复盘融资驱动型企业的生存困境与行业洗牌

    文章复盘了国内具身智能赛道在资本热潮下多家企业停摆或破产的现象,指出其核心症结在于现金流依赖下一轮融资而非产品交付,且真实需求尚未成熟。随着大额融资减少和监管趋严,资本定价逻辑正从为“可能性”转向为“确定性”,行业将进入洗牌期,最终只有上游核心零部件和具备稳定商业价值的头部企业能存活。

11月2日周一
  1. arXiv · 机器人与计算机视觉72

    VLA 策略不知何时不该行动:意外任务执行与启动抑制问题

    论文研究了六款 VLA 模型在 LIBERO-Goal 仿真环境中对空、中性或无意义指令的响应。结果显示所有模型在空指令下均会移动,且五款常完成未指定任务;GR00T 的两款虽由指令决定任务但无法抑制启动。测试了三种抑制方法:前缀提示无效,门控机制在五款中有效,微调策略虽不完成任务但无法可靠保持静止或抑制不可行指令下的启动。

  2. The Robot Report45

    VicOne 两日发现 28 个零日漏洞:AI 加速挖掘对机器人全生命周期安全的影响

    VicOne 利用 AI 辅助研究在不到两天内识别出涉及 Google、NVIDIA 和 Meta 等项目的 28 个零日漏洞,涵盖开发训练、仿真验证及部署运行三个机器人生命周期阶段。这些弱点可能影响模型构建与测试可信度,甚至导致远程停止指令失效,迫使团队加速响应并评估对机器人安全的具体影响。

11月1日周日
  1. 量子位42

    红旗连锁终止机器人无人售货系统研发:实验室锤炼上万次仍无法解决货架前抓取不稳与避障难题

    四川红旗连锁于 2026 年 7 月终止机器人无人售货系统研发,因机械臂在密集货架面对异形商品时抓取失误率高、稳定性不足且易摔碎玻璃瓶。尽管项目历经 16 个月研发并投入约 280 万元,但样机未达大规模商业化落地标准,无法替代店员处理复杂场景下的补货与交易任务。

10月30日周五
  1. arXiv · 机器人与计算机视觉82

    接触丰富机器人任务的安全学习:从经典方法到安全基础模型的综述

    这篇论文是发表在 npj Robotics 上的综述,全面回顾了接触丰富机器人任务中基于学习的控制方法,特别是如何确保探索与执行阶段的安全性。文章将现有方法分为安全探索和 safe execution 两类,涵盖了约束强化学习、风险敏感优化、不确定性建模、控制屏障函数和模型预测安全盾等技术。

    推荐理由:该综述系统梳理了从经典方法到基础模型在接触丰富任务中的安全学习进展,为相关团队评估现有技术与未来方向提供参考。

10月28日周三
  1. arXiv · 机器人与计算机视觉36

    Program-Level Adversarial Co-Adaptive Self-Play for Robotic Security 框架发布

    该研究提出无需模型微调的编程级对抗共适应自博弈框架,利用代码智能体基于对手代码与任务反馈生成攻防策略。案例显示自动驾驶防御者引入直驱恢复、人形机器人防御者修订状态验证,但仅实现局部任务恢复而未建立持续鲁棒性。结果通过可执行工件与任务证据进行观测,涵盖自动驾驶 SDK 级防御与人形运动控制接口。

  2. IEEE Spectrum · Robotics50

    VicOne 揭示机器人安全功能在输入被篡改时的脆弱性,演示海报文字与不可听音频可诱导 Gemma 4 E4B 及 Nemotron 模型改变行为

    VicOne LAB R7 研究显示,当输入数据被恶意篡改时,原本依赖传感器读数的机器人安全决策可能失效。实验证实,在基于 Gemma 4 E4B 的机器狗测试中,海报文字可被误判为指令;而在搭载 NVIDIA Jetson AGX Orin 运行 Nemotron 的仿真环境中,人类听不见的音频也能改变机器人行为。该研究强调需重新评估针对服务机器人的信息安全性及现有防护机制的有效性。

10月27日周二
  1. arXiv · 机器人与计算机视觉78

    EAST:基于数字孪生的具身智能安全测试系统

    EAST 是一个数字孪生框架,旨在解决仅以任务成功衡量具身智能安全性不足的问题。它将文献中的安全隐患转化为涵盖感知、指令、环境、动作和时序的故障注入测试。该框架包含专家审核的安全故障分类学和八个可执行算子,通过三阶段工作流生成测试规范并验证故障实现。

    推荐理由:该框架将文献中的安全隐患转化为数字孪生环境下的故障注入测试,能独立评估任务成功背后的安全风险。

  2. arXiv · 机器人与计算机视觉72

    面向多候选单纯形架构的基于设计时识别的运行时上下文依赖安全吸引域构造

    该论文针对高性能控制策略缺乏形式化验证的问题,提出一种两阶段安全域认证框架。该方法利用收缩稳定性建立目标集,进而对闭环系统进行处理,实现了运行时构建上下文相关的安全吸引域(RoA)以及在高保真控制器候选项之间进行安全的切换以优化恢复能力。

10月26日周一
  1. arXiv · 机器人与计算机视觉78

    Not an Accident:人形机器人安全过滤器的可利用性分析

    该研究指出人形机器人的安全过滤器仅在特定参数配置下有效,缺乏通用方法确定这些参数导致部署后可能失效。作者展示了无需额外权限即可通过正常交互利用此漏洞的攻击方式,并开发了自动化工具 SIREN 来识别脆弱目标。实验表明 SIREN 在 SPARK 数据集的所有脆弱场景中均能发现攻击,且能在真实人形机器人上成功诱导碰撞事故。

    推荐理由:论文揭示人形机器人安全过滤器存在可被正常交互利用的漏洞,并展示了自动化攻击工具 SIREN 在仿真与真实机器上的有效性。

10月22日周四
10月21日周三
  1. arXiv · 机器人与计算机视觉72

    未知动态环境下基于可达性的实时机器人导航安全表示学习

    这篇博士论文提出训练神经隐式表示来离线学习哈密顿 - 雅可比(HJ)可达性解,以在实时控制中区分安全与必撞状态。研究展示了五种方法:前四种将学习到的函数作为模型预测控制的终端约束或控制巴利尔函数的候选项,第五种则通过顶点输入的并行树搜索生成标签,解决了网格求解器限制低维模型的问题。仿真和硬件实验表明,该方法在短视域和移动障碍物场景下比几何及手工设计的基线具有更好的碰撞避免能力。

  2. arXiv · 机器人与计算机视觉78

    Safe Multi-Robot Collaboration With Uniform Exclusion Using Trust

    arXiv 论文提出一种用于多机器人协作的安全通信包装器算法,该算法利用各机器人上的异常检测器生成的信任值流,通过 Safe Anytime-Valid Inference 方法筛选出可信链路。

    推荐理由:提出一种基于信任值的通信包装器算法,能在存在恶意链路的情况下以高概率排除受损连接并快速恢复对合法链路的信任。