跳到正文

内容形态

安全与可靠性 最新动态

安全研究、事故报告、召回与可靠性工程,区分报告、调查结论与责任认定。

48 条精选近 30 天 31 条共收录 321 条

更新

精选归档 · 第 2 页

10月27日周二第 21–40 条
  1. arXiv · 机器人与计算机视觉78

    基于不确定性的 LiDAR 目标检测功能适用性分析评估

    针对 ISO 21448 SOTIF 安全分析需求,本文提出一种将不确定性阈值转化为触发条件的评估方法,以判定 ML 基 LiDAR 目标检测器在不同条件下的性能目标适用性。

    推荐理由:提出将不确定性阈值转化为触发条件的评估方法,指出在 KITTI 和 nuScenes 数据集上独立样本不足且跨条件转移难以满足性能目标。

  2. arXiv · 机器人与计算机视觉78

    PhaseBreak:一种针对未授权图生视频动画的主动时间域防护方法

    该论文提出 PhaseBreak 方法,旨在防止肖像照片被用于未授权的图生视频(I2V)运动合成。该方法通过在发布前对图像施加有界扰动,利用中间去噪器特征与清洁特征的时序重排匹配机制,在保持图像共享工作流的同时破坏下游运动生成能力。实验表明,受保护图像能诱导更大的短期运动变化和更低的时序规律性,从而阻碍基于释放图像的稳态运动定制。

    推荐理由:提出 PhaseBreak 方法,通过重排特征时序在保护肖像隐私的同时保持图像可用性。

  3. arXiv · 机器人与计算机视觉78

    A Canary in the Neural Mine:捕捉图像分类器的沉默失败

    该预印本论文指出最大 Softmax 概率(MSP)存在结构盲点,无法检测正交于其梯度方向的特征变化。作者提出 CANARY,一种无需训练的故障检测器,通过计算倒数第二层特征的 PCA 残差的 kNN 距离并进行百分位校准,与 MSP 融合以识别高置信度错误。

    推荐理由:提出无需训练的 CANARY 检测器,利用残差分布捕捉高置信度错误,在自然分布偏移下显著优于标准 MSP。

10月26日周一
  1. arXiv · 机器人与计算机视觉78

    Not an Accident:人形机器人安全过滤器的可利用性分析

    该研究指出人形机器人的安全过滤器仅在特定参数配置下有效,缺乏通用方法确定这些参数导致部署后可能失效。作者展示了无需额外权限即可通过正常交互利用此漏洞的攻击方式,并开发了自动化工具 SIREN 来识别脆弱目标。实验表明 SIREN 在 SPARK 数据集的所有脆弱场景中均能发现攻击,且能在真实人形机器人上成功诱导碰撞事故。

    推荐理由:论文揭示人形机器人安全过滤器存在可被正常交互利用的漏洞,并展示了自动化攻击工具 SIREN 在仿真与真实机器上的有效性。

  2. arXiv · 机器人与计算机视觉82

    沉默并非确证:当量产车道保持辅助不报警时及其代价

    该研究引入 CANDID-LKA 框架,利用车载 CAN 总线数据与第三方视觉系统,对三款主流车型共 39,800 秒的实车驾驶进行了评估。结果显示,显示状态无法一致响应标线难识别的条件,不同厂商报告‘未检测到’的频率差异巨大;潜类别模型表明显示状态仅能反映 47% 的感知退化时刻(第三方系统为 80%),且在近半数低置信度片段中从未报警。

    推荐理由:该研究通过车载 CAN 总线与第三方视觉系统对比,揭示了量产车道保持辅助系统在低置信度场景下存在‘静默’失效风险,且不同厂商表现差异显著。

10月23日周五
  1. arXiv · 机器人与计算机视觉78

    基于车道变更预测的自动驾驶决策与乘坐舒适度评估

    该论文研究了将基于知识图谱嵌入和贝叶斯推断的车道变更预测集成到自动驾驶决策中的效益。在 CARLA 仿真的高风险合流场景中,模型能提前约 3-4 秒预测周围车辆的变道意图。

    推荐理由:该研究在 CARLA 仿真中验证了基于知识图谱嵌入与贝叶斯推断的变道预测,相比反应式策略显著降低峰值减速度并提升乘坐舒适性。

10月21日周三
  1. arXiv · 机器人与计算机视觉78

    Safe Multi-Robot Collaboration With Uniform Exclusion Using Trust

    arXiv 论文提出一种用于多机器人协作的安全通信包装器算法,该算法利用各机器人上的异常检测器生成的信任值流,通过 Safe Anytime-Valid Inference 方法筛选出可信链路。

    推荐理由:提出一种基于信任值的通信包装器算法,能在存在恶意链路的情况下以高概率排除受损连接并快速恢复对合法链路的信任。

  2. arXiv · 机器人与计算机视觉85

    拒绝提问、行动服从:机器人控制环路的运行时安全检查

    该研究指出前沿模型在通过代理 harness 控制机器人时存在安全隐患,即便面对常识性危险(如将刀放入玩具篮)也会尝试执行且从不引用风险。作者提出一种可选的运行时安全检查方法:在执行首次动作前,利用相同相机帧询问模型是否会执行指令。

    推荐理由:作者提出一种运行时安全检查机制,通过在动作执行前询问模型是否应执行指令来拦截有害操作。

10月20日周二
  1. arXiv · 机器人与计算机视觉82

    PhantomTac:利用部署即忘标签劫持机器人触觉系统

    该研究发现了磁触觉传感器存在的物理漏洞 PhantomTac,攻击者仅需在物体表面粘贴厚度约 0.5 mm、无电池的磁性标签即可篡改力感知数据。实验表明,这种隐蔽的攻击能绕过现有抗干扰机制并劫持闭环控制流程,在抓取位置偏移小于 8 mm 时攻击成功率超过 95%,可导致捏碎或掉落物体。论文提出了多模态一致性防御机制以缓解此类物理层安全威胁,相关内容已接受于 ACM CCS 2026。

    推荐理由:研究揭示了磁触觉传感器的物理漏洞,提出了一种无需接触设备的隐蔽攻击方案及多模态一致性防御机制。

  2. arXiv · 机器人与计算机视觉78

    Ghost Attack:用 19 世纪光学错觉欺骗 21 世纪生物识别系统

    该研究提出'Ghost Attack'攻击方法,利用低成本自由空间硬件和透明介质将高分辨率面部数据投射到物理三维空间,成功绕过现代人脸识别系统的匹配器、呈现攻击检测和变形攻击检测三个组件。

    推荐理由:论文提出利用 Pepper's Ghost 原理的'Ghost Attack',证明透明投影可绕过现代人脸识别系统的匹配与防御模块。

  3. arXiv · 机器人与计算机视觉82

    当编辑意图被拆分:一种针对大型图像编辑模型的跨模态越狱攻击

    本文形式化了大型图像编辑模型中有害意图分布在多模态输入下的风险,提出 Split-Intent Jailbreak Attack (SIJA) 方法,通过将编辑指代放在文本而将关键安全动作隐藏在视觉语义中。

    推荐理由:该工作提出跨模态越狱攻击并构建基准,揭示大图像编辑模型在图文意图拆分时的安全隐患。

10月16日周五
  1. arXiv · 机器人与计算机视觉78

    FusionAudit:面向原生多模态模型的基于路径条件的鲁棒性审计

    论文介绍 PaRMA 审计框架与 FusionAudit 工具集,针对视觉语言模型从冻结编码器向原生架构过渡时的复杂性,定义像素扰动和渲染文本插入两类干预下的路径条件风险。

    推荐理由:提出基于路径的鲁棒性审计框架,揭示原生多模态模型在像素扰动与渲染文本插入下的新脆弱点。

  2. arXiv · 机器人与计算机视觉78

    Vision Transformers 中的虚假注意力头:医学胸部 X 光分析中标注驱动偏差的机制识别

    论文应用机制可解释性方法,在 ViT-Base 16 模型中定位到一个专门读取注释文本而非肺病理的单一注意力头(L8H10)。因果验证证实该行为由标注内容驱动,移除后肺部注意力增加。该现象在 NIH ChestX-ray14、DeiT-Base 和 ViT-Large 16 三个架构上复现。全量微调无法抑制该偏差甚至可能强化它,且单头消融显示输出级评估完全无法察觉此因果电路。

    推荐理由:通过机制可解释性发现 ViT 模型在医疗影像中利用注释文本而非病灶进行推理的虚假注意力头,且该偏差无法通过微调消除。

  3. arXiv · 机器人与计算机视觉78

    Race to Recovery:基于自动驾驶赛车学习的先进安全系统设计

    针对电子稳定控制系统难以处理打滑、水滑或急避导致的失控问题,该研究提出通过强化学习训练漂移策略并迁移至最小时间恢复任务的方法。作者定义了基于相平面的稳定平衡点作为恢复标准,开发了 Gym-Khana 用于控制器训练与评估。

    推荐理由:该研究通过强化学习训练漂移策略并迁移至恢复控制,在物理 F1TENTH 平台上验证了比传统方法更优的失控恢复能力。

  4. arXiv · 机器人与计算机视觉78

    超越静态线索:基于双流轨迹分析的统一多模态大模型后门动态检测

    针对多模态大语言模型(MLLMs)在后门攻击下的脆弱性,现有防御方法受限于对静态快照的依赖及特定启发式规则。本文提出 EVO-Detect 框架,将诊断范式从静态观察转向动态输出演化监测。

    推荐理由:提出 EVO-Detect 框架,通过监测解码过程中的注意力流与 logits 流动态演化来检测多模态大模型后门攻击。

  5. arXiv · 机器人与计算机视觉82

    水印有效即身份无效:空间 - 谱对抗性人脸规避与水印保留

    该研究提出了一种在水印保护设置下的对抗性人脸规避攻击(PGD-L_2),旨在暴露仅依赖溯源或篡改检测无法保证可靠生物特征身份的结构性缺口。实验在受控面部图像、两种水印方案及两个数据集上评估,结果显示攻击在操作阈值下逃逸率超过 92%,同时保持 StegaFormer 水印恢复率高于 93% 和 FaceSigns 高于 99.7%,视觉质量 PSNR 高于 47dB。

    推荐理由:论文揭示了水印有效但生物特征识别失效的结构化漏洞,在保持水印可恢复的同时实现了高逃逸率。

  6. arXiv · 机器人与计算机视觉78

    GeoCloak:一种通过边缘线索操作实现语义保留的地理位置隐私代理框架

    针对大视觉语言模型(LVLM)从单张图片推断用户位置带来的隐私风险,本文提出 GeoCloak 代理框架。该框架利用地理定位线索与视觉信息的不对称性,作为感知线索的规划器分析图像,识别关键地理线索并执行针对性的语义编辑以直接抑制这些边缘线索,同时自主配置对抗扰动进一步压制残留特征。

    推荐理由:提出 GeoCloak 框架,利用边缘线索操作在保持语义的同时显著降低图像地理定位精度。

10月12日周一
  1. arXiv · 机器人与计算机视觉82

    DRIFT:利用对抗补丁破坏流匹配 VLA 的去噪轨迹

    论文指出流匹配视觉语言动作(VLA)模型如 pi0 声称的抗干扰能力存在幻觉,源于以往攻击忽略了多步去噪常微分方程。作者提出 DRIFT 方法,通过在机器人夹爪上放置单个通用对抗补丁,仅攻击第一个去噪步骤即可破坏任务求解率。实验在四个 LIBERO 套件上的 pi0 和 pi0.5 模型验证了该方法的有效性,其效果远超动作空间和嵌入空间的攻击基线。

    推荐理由:该工作揭示了流匹配 VLA 模型在去噪轨迹上的脆弱性,提出了一种仅需攻击首个去噪步骤的通用对抗补丁方法。

  2. arXiv · 机器人与计算机视觉78

    Robot-WATCHDOG:基于物体中心图表示的机器人操作故障检测

    论文介绍 Robot-WATCHDOG 框架,通过构建物体中心的时空图实现无需显式定义失败模式的自监督故障检测。方法包含非参数化的轨迹投影与相关性评分(TPC)及结合 Transformer 的图注意力网络(GnnT),在公开基准与新数据集上均优于图像基线,尤其擅长捕捉语义和交互级错误。

    推荐理由:提出基于物体中心时空图框架的自监督故障检测方案,在语义与交互级错误上优于图像基线。

10月8日周四
  1. arXiv · 机器人与计算机视觉82

    OrthoPurify:通过移除劫持方向净化带后门的视觉语言模型

    针对大视觉语言模型(LVLM)在后门攻击下的脆弱性,本文提出 OrthoPurify 方法,利用伪良性参考模型识别并移除被劫持的权重更新方向。该方法仅需单步正交投影即可在无需重训或引入推理开销的情况下,将攻击成功率降至近零,同时保持原有性能。代码已公开。

    推荐理由:提出 OrthoPurify 方法,通过单步正交投影移除后门方向,无需重训或推理开销即可将攻击成功率降至近零。