LLM 控制的社交机器人面临网络暴露的配置攻击风险
该预印本研究了 LLM 在具身机器人中的安全依赖问题,发现可通过管理接口在未认证情况下替换人格设置和系统提示词。实验表明配置层攻击路径能引发物理硬件行为变化,而推理层的对抗输入被抵抗。
推荐理由:研究揭示了具身智能机器人管理接口存在配置层攻击漏洞,证明仅靠推理层的拒绝无法阻止未授权指令修改。
内容形态
安全研究、事故报告、召回与可靠性工程,区分报告、调查结论与责任认定。
48 条精选近 30 天 31 条共收录 321 条
该预印本研究了 LLM 在具身机器人中的安全依赖问题,发现可通过管理接口在未认证情况下替换人格设置和系统提示词。实验表明配置层攻击路径能引发物理硬件行为变化,而推理层的对抗输入被抵抗。
推荐理由:研究揭示了具身智能机器人管理接口存在配置层攻击漏洞,证明仅靠推理层的拒绝无法阻止未授权指令修改。
本文针对视觉语言模型的在线蒸馏(OPD)范式,挑战了其对后门传播具有天然抵抗力的直觉。研究发现,一旦超过临界阈值,攻击成功率会迅速接近 100%,且该过程不依赖显式恶意响应,而是由教师模型分配的异常概率质量累积驱动。作者提出了一种无需显式注入触发器的新型触发器设计,揭示了 OPD 中被忽视的后门传播机制及其潜在安全风险。
推荐理由:该文挑战了在线蒸馏对后门传播具有天然抵抗力的直觉,揭示了在特定阈值下攻击成功率可达 100% 的机制及无需显式触发器的新设计。
该论文发现现有面部隐私保护方法的评测结果存在缺陷:输入端直接喂入整图或检测框而非对齐裁剪,导致防御效果被高估;阈值设定沿用旧标准,在整图上产生偏差。作者通过引入可微分对齐算子并修正评分方式,在不重新生成图像的情况下,将转移攻击的规避保护降低了 56%,预算分配攻击降低 7%。实验显示,修正后的方法在三个未见识别器上性能提升显著,且改变了 L-infinity 转移攻击的排名顺序。
推荐理由:文章指出既有面部隐私评测因输入与阈值设定错误而高估了防护效果,并给出可复用的修正方法与实验数据。
本文介绍 ARC-2 框架,旨在解决自主系统在部署后如何维持合规的问题。该框架将合规性评估从静态认证转变为通过连续监控进行,并提出了四项扩展:在 CRAB 评估中纳入最坏的行为偏差验证;建立分层触发分类法以区分不同风险等级的违规;实施分阶段的平稳过渡协议,将运营授权撤回与物理关闭分离;引入环境偏差作为基线有效性条件,防止因环境漂移超出认证 ODD 而自动收缩权限。
推荐理由:该框架提出通过偏差管理实现自主系统部署后的持续合规,扩展了 ARC-1 架构以应对欧盟 AI 法案要求。
针对多模态强化学习(MRL)在自动驾驶中因时序不一致导致决策失败的问题,本文提出 Split Temporal Adversary (STA) 方法。该方法将多模态时序攻击统一为决策过程,通过历史状态延迟观测以消除模态特定噪声需求,并利用受害者策略的清洁动作识别敏感决策模式。
推荐理由:提出 STA 方法统一优化多模态攻击时机与选择,在 CARLA 仿真中使 PPO 碰撞率翻倍且尝试更少,揭示时序一致性是 MRL 的关键脆弱点。
该论文研究了视觉语言动作(VLA)模型中的新型后门攻击,提出结合触发器激活与指令条件抑制的设计。研究通过三种变体(跨模态触发、自抑制触发和多触发)在 SmolVLA 和 OpenVLA 上进行了评估,结果显示此类攻击能显著降低检测率并维持高成功率,同时保持清洁任务的完美性能,确立了条件抑制作为评估 VLA 后门威胁的重要维度。
推荐理由:该研究揭示了 VLA 模型中可被指令条件抑制的后门攻击机制,为评估此类安全威胁提供了新的维度。
针对非结构化环境中单一备份策略失效的挑战,本文提出了策略库控制屏障函数(PL-CBF),这是一种运行时安全滤波器。该方法通过评估满足约束的并行有限视界回滚结果,从候选策略中选择容许控制集体积最大的策略,并求解二次规划以最小化对名义输入的修改。研究在室内导航、高速驾驶及四旋翼飞行等仿真场景,以及移动机器人和定制四旋翼的硬件实验中,均证明了其在保持毫秒级计算时间的同时提升了安全性能。
推荐理由:提出基于并行有限视界回滚的策略库控制屏障函数,在仿真与硬件实验中验证了其在复杂动态环境下的实时安全性。
该研究审计了 MedGemma-4B、Lingshu-7B、HuatuoGPT-Vision-7B、Qwen2.5-VL-7B 和 MedVLM-R1 等五款开源医疗 VLM,在包含 6,048 个问题的 ChestX-ray14 数据集上发现,尽管模型能流利描述气胸体征,但在 432 张阳性 X 光片中零检出或仅部分检出。
推荐理由:审计显示五款医疗 VLM 在气胸检测上存在严重诊断特异性失效,内部表征正常但输出被抑制,仅靠聚合准确率无法评估真实能力。
GhostTac 是一种针对机器人触觉传感器的无接触攻击方法,利用电磁干扰(EMI)的非线性整流效应和带宽限制放大特性,绕过板载滤波器制造持续的直流偏移,从而稳定地扭曲测量结果。
推荐理由:该研究揭示了电磁干扰可无接触操控触觉传感器的新攻击向量,并在多种传感器与灵巧手上验证了有效性。
针对现有以自我为中心的自动驾驶系统在混合交通场景中因多车决策冲突导致的安全问题,论文提出 CoSafe 框架。该框架利用车路协同(V2X)通信,使路边单元能监控场景级风险并实施联合干预,将安全保证从单车接管扩展到场景级协作。
推荐理由:提出 CoSafe 框架,利用 V2X 通信实现场景级协同干预,在混合交通下显著降低违规率并提升自动驾驶得分。
针对模型预测控制和强化学习中确保安全性的挑战,本文引入新型安全集类,其范围优于传统控制不变集。通过限制预测时域内不同节点而非仅终端状态来保证递归可行性;若安全集为控制不变集的内近似,则可通过安全中止策略确保安全性。在六关节机器人操作臂的广泛仿真及硬件实验中,该方法相比最先进方法减少了约束违反,同时保持了相当的跟踪性能和计算效率。
推荐理由:提出超越终端约束的安全集新方法,在仿真与硬件实验中验证了比现有方法更少的约束违反且保持跟踪性能。
该研究针对推理型视觉语言动作(VLA)模型,发现视觉扰动可在保持生成理由逐字不变的情况下改变物理动作。在 Alpamayo 和 InstructVLA 模型上,基于文本中性残差子空间(TNAS)的干预比传统方法更高效地诱导动作变化且大幅降低文本漂移。
推荐理由:论文揭示视觉扰动可独立于文本理由改变动作,提出 TNAS 诊断方法证明仅凭文本无法认证安全,需直接验证动作通道。
针对多智能体强化学习缺乏安全保证且传统控制屏障函数易不可行或过于保守的问题,本文提出 Backup-Horizon CBF 方法。该方法沿时间步长评估安全性直至车辆停止,在控制约束下保持递归可行性并精确考虑几何形状。
推荐理由:提出递归可行控制屏障函数,在仿真中实现多智能体强化学习的安全保障与实时性。
论文提出一种 CUDA 实现的 WENO5+TVD-RK3+Lax-Friedrichs 水平集哈密顿 -雅可比 -伊萨科求解器,可在机器人控制回路内运行。
推荐理由:作者提出了一种可在机器人控制回路内实时运行的 GPU 求解器,为黑盒策略提供形式化安全保证。
该论文揭示了大型视觉语言模型(LVLMs)在推理时使用视觉标记压缩时,传统后门会被激活而暴露风险。作者提出 StripWake 项目器仅后门方案,通过配对清洁监督与随机压缩视图并冻结良性教师对齐早期注意力,实现在全标记审计下保持低攻击成功率而在未见过的压缩器中高效触发,且无 CIDEr 损失。
推荐理由:揭示大模型推理压缩会激活潜伏后门,提出 StripWake 方法在审计时保持休眠而在压缩后触发。
该论文研究了联合嵌入预测架构(JEPAs)在 LeWorldModel 中的测试时间鲁棒性。分析发现,物体状态主导了潜在距离,但编码器无法轻易隔离或重定向这种几何结构。实验表明,仅对单帧输入施加极小的白盒扰动即可让编码器将物体姿态记录为攻击者任意选择的状态,导致 Push-T 等任务的规划成功率从 87% 骤降至 32%,且该漏洞在四个标准基准测试中均存在。
推荐理由:该研究揭示了 LeWorldModel 在测试时对微小图像扰动的脆弱性,攻击可诱导规划器将物体状态误判为任意姿态,导致任务成功率大幅下降。
普华基础软件在 SAECCE 2026 上发布开源小满 EasyXMen V26.10、AUTOSAR CAPI 1.0 及普华智能操作系统等 8 项成果。
推荐理由:普华基础软件发布开源小满 V26.10 等 8 项成果,涵盖车控系统、AUTOSAR CAPI 及飞行汽车 OS,并开放 GitHub 代码生成器与 Demo。
这篇论文是发表在 npj Robotics 上的综述,全面回顾了接触丰富机器人任务中基于学习的控制方法,特别是如何确保探索与执行阶段的安全性。文章将现有方法分为安全探索和 safe execution 两类,涵盖了约束强化学习、风险敏感优化、不确定性建模、控制屏障函数和模型预测安全盾等技术。
推荐理由:该综述系统梳理了从经典方法到基础模型在接触丰富任务中的安全学习进展,为相关团队评估现有技术与未来方向提供参考。
论文发现少步蒸馏文本到图像模型存在速度与安全的内在张力:加速推理会显著提升不安全生成率且削弱现有概念擦除方法的效果。为此,作者提出 DICE 方法,通过调整潜在空间构建与生成保持损失以适配蒸馏过程,在 FLUX Schnell 上将不安全生成率从至少 0.161 降至 0.046,同时保留良性生成质量。该工作已接受发表于 IEEE S&P 2027。
推荐理由:针对少步蒸馏模型加速导致不安全生成率上升的问题,提出适配蒸馏过程的擦除方法 DICE,将 FLUX Schnell 的不安全生成率降至 0.046。
EAST 是一个数字孪生框架,旨在解决仅以任务成功衡量具身智能安全性不足的问题。它将文献中的安全隐患转化为涵盖感知、指令、环境、动作和时序的故障注入测试。该框架包含专家审核的安全故障分类学和八个可执行算子,通过三阶段工作流生成测试规范并验证故障实现。
推荐理由:该框架将文献中的安全隐患转化为数字孪生环境下的故障注入测试,能独立评估任务成功背后的安全风险。