跳到正文
  1. arXiv · 机器人与计算机视觉84

    LLM 控制的社交机器人面临网络暴露的配置攻击风险

    该预印本研究了 LLM 在具身机器人中的安全依赖问题,发现可通过管理接口在未认证情况下替换人格设置和系统提示词。实验表明配置层攻击路径能引发物理硬件行为变化,而推理层的对抗输入被抵抗。

    推荐理由:研究揭示了具身智能机器人管理接口存在配置层攻击漏洞,证明仅靠推理层的拒绝无法阻止未授权指令修改。

  1. arXiv · 机器人与计算机视觉82

    策略库 CBF:通过并行回滚实现运行时有限视界安全

    针对非结构化环境中单一备份策略失效的挑战,本文提出了策略库控制屏障函数(PL-CBF),这是一种运行时安全滤波器。该方法通过评估满足约束的并行有限视界回滚结果,从候选策略中选择容许控制集体积最大的策略,并求解二次规划以最小化对名义输入的修改。研究在室内导航、高速驾驶及四旋翼飞行等仿真场景,以及移动机器人和定制四旋翼的硬件实验中,均证明了其在保持毫秒级计算时间的同时提升了安全性能。

    推荐理由:提出基于并行有限视界回滚的策略库控制屏障函数,在仿真与硬件实验中验证了其在复杂动态环境下的实时安全性。

  1. 智东西 · 机器人82

    Google DeepMind 发布新一代 VLA 模型 Gemini Robotics 2.5

    Google DeepMind 正式发布新一代视觉语言动作模型 Gemini Robotics 2.5,该模型在灵巧性、可靠性和安全性方面实现显著提升。相比基线模型,其在多步骤任务中的成功率提升 30% 至 100%,执行速度提高 20% 至 30%。

    推荐理由:DeepMind 发布 Gemini Robotics 2.5,在奔驰产线分拣任务中实现 96% 成功率,并开源安全评测基准与仿真引擎。

  1. arXiv · 机器人与计算机视觉78

    超越终端约束:基于学习的安全集实现可靠机器人控制

    针对模型预测控制和强化学习中确保安全性的挑战,本文引入新型安全集类,其范围优于传统控制不变集。通过限制预测时域内不同节点而非仅终端状态来保证递归可行性;若安全集为控制不变集的内近似,则可通过安全中止策略确保安全性。在六关节机器人操作臂的广泛仿真及硬件实验中,该方法相比最先进方法减少了约束违反,同时保持了相当的跟踪性能和计算效率。

    推荐理由:提出超越终端约束的安全集新方法,在仿真与硬件实验中验证了比现有方法更少的约束违反且保持跟踪性能。

  1. arXiv · 机器人与计算机视觉82

    Say the Same, Act Differently:诊断与引导推理 VLA 中的文本 - 动作分歧

    该研究针对推理型视觉语言动作(VLA)模型,发现视觉扰动可在保持生成理由逐字不变的情况下改变物理动作。在 Alpamayo 和 InstructVLA 模型上,基于文本中性残差子空间(TNAS)的干预比传统方法更高效地诱导动作变化且大幅降低文本漂移。

    推荐理由:论文揭示视觉扰动可独立于文本理由改变动作,提出 TNAS 诊断方法证明仅凭文本无法认证安全,需直接验证动作通道。

  1. arXiv · 机器人与计算机视觉82

    接触丰富机器人任务的安全学习:从经典方法到安全基础模型的综述

    这篇论文是发表在 npj Robotics 上的综述,全面回顾了接触丰富机器人任务中基于学习的控制方法,特别是如何确保探索与执行阶段的安全性。文章将现有方法分为安全探索和 safe execution 两类,涵盖了约束强化学习、风险敏感优化、不确定性建模、控制屏障函数和模型预测安全盾等技术。

    推荐理由:该综述系统梳理了从经典方法到基础模型在接触丰富任务中的安全学习进展,为相关团队评估现有技术与未来方向提供参考。

  1. arXiv · 机器人与计算机视觉78

    EAST:基于数字孪生的具身智能安全测试系统

    EAST 是一个数字孪生框架,旨在解决仅以任务成功衡量具身智能安全性不足的问题。它将文献中的安全隐患转化为涵盖感知、指令、环境、动作和时序的故障注入测试。该框架包含专家审核的安全故障分类学和八个可执行算子,通过三阶段工作流生成测试规范并验证故障实现。

    推荐理由:该框架将文献中的安全隐患转化为数字孪生环境下的故障注入测试,能独立评估任务成功背后的安全风险。

  1. arXiv · 机器人与计算机视觉78

    Not an Accident:人形机器人安全过滤器的可利用性分析

    该研究指出人形机器人的安全过滤器仅在特定参数配置下有效,缺乏通用方法确定这些参数导致部署后可能失效。作者展示了无需额外权限即可通过正常交互利用此漏洞的攻击方式,并开发了自动化工具 SIREN 来识别脆弱目标。实验表明 SIREN 在 SPARK 数据集的所有脆弱场景中均能发现攻击,且能在真实人形机器人上成功诱导碰撞事故。

    推荐理由:论文揭示人形机器人安全过滤器存在可被正常交互利用的漏洞,并展示了自动化攻击工具 SIREN 在仿真与真实机器上的有效性。

  1. arXiv · 机器人与计算机视觉78

    Safe Multi-Robot Collaboration With Uniform Exclusion Using Trust

    arXiv 论文提出一种用于多机器人协作的安全通信包装器算法,该算法利用各机器人上的异常检测器生成的信任值流,通过 Safe Anytime-Valid Inference 方法筛选出可信链路。

    推荐理由:提出一种基于信任值的通信包装器算法,能在存在恶意链路的情况下以高概率排除受损连接并快速恢复对合法链路的信任。

  2. arXiv · 机器人与计算机视觉85

    拒绝提问、行动服从:机器人控制环路的运行时安全检查

    该研究指出前沿模型在通过代理 harness 控制机器人时存在安全隐患,即便面对常识性危险(如将刀放入玩具篮)也会尝试执行且从不引用风险。作者提出一种可选的运行时安全检查方法:在执行首次动作前,利用相同相机帧询问模型是否会执行指令。

    推荐理由:作者提出一种运行时安全检查机制,通过在动作执行前询问模型是否应执行指令来拦截有害操作。

  1. arXiv · 机器人与计算机视觉78

    Robot-WATCHDOG:基于物体中心图表示的机器人操作故障检测

    论文介绍 Robot-WATCHDOG 框架,通过构建物体中心的时空图实现无需显式定义失败模式的自监督故障检测。方法包含非参数化的轨迹投影与相关性评分(TPC)及结合 Transformer 的图注意力网络(GnnT),在公开基准与新数据集上均优于图像基线,尤其擅长捕捉语义和交互级错误。

    推荐理由:提出基于物体中心时空图框架的自监督故障检测方案,在语义与交互级错误上优于图像基线。

  1. arXiv · 机器人与计算机视觉80

    少说假话,多说大话:LLM 机器人团队的隐蔽内部攻击研究

    当机器人团队将规划与互信委托给 LLM 智能体时,单个被攻陷的机器人可能破坏共享结果。本研究在可物理验证但需消耗预算的多机器人测绘任务中,将攻陷者视为受限于系统检测器的隐蔽对手,推导了谎言被验证概率的下界及地图误差上界。实验表明,当诚实机器人由 LLM 智能体担任时,上述界限在实际攻击花费的预算下均成立;同时发现 LLM 重检记录的选择无偏但重检量不可预测。

    推荐理由:论文从系统理论角度推导了多机器人团队中 LLM 智能体被内部攻击时的谎言概率与地图误差上界,并在 LLM 诚实机器人的实验环境下验证了这些界限。

  1. Hugging Face Daily Papers85

    通过失败库自进化从运行时反馈中学习:面向视觉语言动作模型的更安全策略

    针对复杂环境中 VLA 模型需平衡任务成功与意外接触的挑战,本文提出 FailBank 四阶段框架,将运行时反馈转化为持久的策略改进。该框架在 VLA-Arena 基准上评估显示,相比基线策略和纯运行时屏蔽方法,FailBank 能显著提升任务成功率并降低由策略引起的累积成本,证明运行时反馈可作为持续监督而非临时约束。

    推荐理由:FailBank 框架利用运行时反馈实现 VLA 策略自我进化,在基准测试中显著提升了任务成功率并降低了累积成本。

已经到底了