跳到正文
10月29日周四
  1. 盖世汽车 · 汽车资讯45

    大众汽车集团扩大电池召回范围至奥迪 Q4 E-Tron 系列全球受影响车辆达 85,402 辆

    大众汽车集团将电动汽车电池召回范围扩大至奥迪品牌,新增 12,734 辆奥迪 Q4 E-Tron 和 Q4 Sportback E-Tron 车型,全球总计影响 85,402 辆。此次召回针对特定充电曲线结合超过 80% 荷电状态可能触发热失控的风险,受影响车主被建议将充电量限制在 80%。奥迪方面表示目前未发现相关索赔、碰撞或伤亡报告,计划于 2026 年 12 月 18 日邮寄临时通知信。

10月28日周三
  1. arXiv · 机器人与计算机视觉72

    谁被标记?AI 内容水印中的多元评价差距研究

    该研究指出 AI 内容水印的信号强度与鲁棒性受语言、文化视觉传统及人口群体统计特性影响,现有基准除一个例外外均未报告跨语言或人群维度的性能差异。作者提出跨语言检测对等、文化多样性覆盖及人口细分指标三个评价维度,主张将公平性审计要求延伸至验证层,并强调评估应先于部署。

  2. arXiv · 机器人与计算机视觉33

    MoHoBench 基准下多模态大模型拒答机制研究:指令、后训练与内部激活对证据不足场景的影响

    针对视觉证据不足时多模态大模型(MLLMs)的拒答问题,研究在 MoHoBench 基准上系统分析了推理指令、后训练及内部激活干预的作用。结果显示拒答高度敏感于指令含义与位置,后训练虽提升拒答率但可能引发混合回答,而内部激活干预则能实现跨提示条件的可迁移微调且避免误拒。

  3. arXiv · 机器人与计算机视觉68

    RePAIR:一种针对语义分割的后门攻击反转防御方法

    该论文介绍 RePAIR 方法,用于在无需重新训练或修改模型的情况下防御语义分割中的后门攻击。该方法基于后门诱导的偏移在分类头强于内部表征的观察,从非标注图像池中推断受害类与目标类的关系,构建安全语义参考并通过比较预测差异定位可疑像素,随后在特征空间和输出端进行保守修正以恢复良性性能。实验表明该方法能显著降低攻击成功率并保留清洁样本的性能。

  4. arXiv · 机器人与计算机视觉82

    少步即浪费?面向安全的少步文本到图像模型研究

    论文发现少步蒸馏文本到图像模型存在速度与安全的内在张力:加速推理会显著提升不安全生成率且削弱现有概念擦除方法的效果。为此,作者提出 DICE 方法,通过调整潜在空间构建与生成保持损失以适配蒸馏过程,在 FLUX Schnell 上将不安全生成率从至少 0.161 降至 0.046,同时保留良性生成质量。该工作已接受发表于 IEEE S&P 2027。

    推荐理由:针对少步蒸馏模型加速导致不安全生成率上升的问题,提出适配蒸馏过程的擦除方法 DICE,将 FLUX Schnell 的不安全生成率降至 0.046。

  5. arXiv · 机器人与计算机视觉36

    Program-Level Adversarial Co-Adaptive Self-Play for Robotic Security 框架发布

    该研究提出无需模型微调的编程级对抗共适应自博弈框架,利用代码智能体基于对手代码与任务反馈生成攻防策略。案例显示自动驾驶防御者引入直驱恢复、人形机器人防御者修订状态验证,但仅实现局部任务恢复而未建立持续鲁棒性。结果通过可执行工件与任务证据进行观测,涵盖自动驾驶 SDK 级防御与人形运动控制接口。

  6. arXiv · 机器人与计算机视觉35

    Physiognomy Revisited:VLM 如何通过图像变换编码敏感属性

    该研究调查了两个视觉语言模型(VLM)在生成图像时如何编码受保护身份,发现当请求将人脸转换为特定种族或性取向时,模型常会顺从且结果非确定性。生成的图像在统计上可区分并加剧刻板印象,这种表征偏差还会重现在文本推理任务中,甚至延续犯罪倾向偏见。论文已被 EMNLP 2026 主会议录用,揭示了生成式 AI 在敏感属性上的潜在脆弱性。

  7. IEEE Spectrum · Robotics50

    VicOne 揭示机器人安全功能在输入被篡改时的脆弱性,演示海报文字与不可听音频可诱导 Gemma 4 E4B 及 Nemotron 模型改变行为

    VicOne LAB R7 研究显示,当输入数据被恶意篡改时,原本依赖传感器读数的机器人安全决策可能失效。实验证实,在基于 Gemma 4 E4B 的机器狗测试中,海报文字可被误判为指令;而在搭载 NVIDIA Jetson AGX Orin 运行 Nemotron 的仿真环境中,人类听不见的音频也能改变机器人行为。该研究强调需重新评估针对服务机器人的信息安全性及现有防护机制的有效性。

10月27日周二
  1. arXiv · 机器人与计算机视觉70

    一种针对大视觉语言模型的跨模态提示注入攻击方法

    论文介绍了一种名为 CrossMPI 的新型跨模态提示注入攻击方法,该方法仅需通过图像输入即可同时操控大视觉语言模型对文本和视觉内容的理解。研究将优化空间从视觉嵌入层转移至模型隐藏状态层,并提出了层选择与距离递减扰动预算分配策略以解决高维空间优化难题。实验表明该方法在多种大视觉语言模型上显著优于基线方法。

  2. arXiv · 机器人与计算机视觉48

    Prompt-Induced Score Variance in Zero-Shot Binary Vision-Language Safety Classification 研究揭示零样本视觉语言安全分类中提示词诱导的分数方差问题

    该研究指出,单一提示词的不安全评分并非可靠概率,在七种视觉语言模型和两个基准测试中,输入在不改变任务的 15 次重述下分数标准差平均为 0.16-0.30。对比修复方案显示,跨基准评估时校准后的均值集成优于最佳单一提示词,而利用开发标签联合选择与校准时则相反。建议将首 token 评分视为提示词族进行评估,并依据是否存在开发标签及部署数据匹配情况选择均值集成或单提示词校准策略。

  3. arXiv · 机器人与计算机视觉63

    Steering the Flow:一种基于梯度引导流匹配的面部识别模型反转新方法

    该研究针对人脸识别模型的模型反转攻击(MIA)问题,提出了一种名为 SFMI 的两阶段白盒方法。该方法首先预训练通用无条件流匹配模型以编码人脸流形作为鲁棒先验,随后在采样过程中通过反向传播获取中间生成状态的梯度,利用渐进式引导调度器(PGS)将目标特定梯度注入向量场,从而稳定地将生成轨迹从随机噪声 steer 至目标类的高密度区域。

  4. arXiv · 机器人与计算机视觉73

    青少年能否欺骗 AI?评估低成本化妆攻击对年龄估计系统的鲁棒性

    该论文系统评估了包括合成胡须、白发、妆容和皱纹在内的低成本物理修饰对年龄估计系统的攻击效果。研究在 329 张 10 至 21 岁个体的面部图像上,利用 Gemini 2.5 Flash Image 模拟这些攻击,并测试了八种模型(含 MiVOLO、Gemini 3 Flash 等)。

  5. arXiv · 机器人与计算机视觉73

    从语音 Token 到被盗声音:通过表示反转实现的攻击者指定文本说话人模仿

    针对端到端语音语言模型前端表示可能泄露说话人身份信息的问题,该研究提出了一种名为 STIA 的语音 Token 反转攻击方法。该方法仅需极短的泄露表示(如 Moshi 模型的 3 秒音频),即可在不接触原始音频或转录文本的情况下,生成指定内容的受害者声音。

  6. arXiv · 机器人与计算机视觉78

    EAST:基于数字孪生的具身智能安全测试系统

    EAST 是一个数字孪生框架,旨在解决仅以任务成功衡量具身智能安全性不足的问题。它将文献中的安全隐患转化为涵盖感知、指令、环境、动作和时序的故障注入测试。该框架包含专家审核的安全故障分类学和八个可执行算子,通过三阶段工作流生成测试规范并验证故障实现。

    推荐理由:该框架将文献中的安全隐患转化为数字孪生环境下的故障注入测试,能独立评估任务成功背后的安全风险。

  7. arXiv · 机器人与计算机视觉52

    执行日志干扰视觉语言模型对机器人进展的判决

    该研究在 CoRL 2026 SPAIS Workshop 上发布,发现当机器人视频片段显示进度落后时,添加一条声称“正在进步”的旁注日志行,可使 Gemini、Qwen 和 GPT 等 VLM 法官将正确判决翻转为“有进展”的比例增加 10 至 35 个百分点。仅一行警告日志可能出错即可消除大部分此类误导效应;选定的虚假“任务完成”声明能翻转 Qwen 半数正确判决,但对 Gemini 无影响。

  8. arXiv · 机器人与计算机视觉35

    Securing Edge & Physical AI:面向关键任务的抗量子物联网区块链架构

    针对公钥认证机制易受量子计算机威胁的问题,研究提出旋转机密性目标及 PARS 参考机制,协调策略触发的密钥建立与轮换。PARS-ESL 可选架构仅记录授权验证器维护的加密纪元状态而非高频交易,使资源受限代理能以轻量客户端参与。结果显示,在既定信任、受损、连通性及资源假设下,该架构对选定的边缘 AI 和 CPS 安全控制工作负载可行。

  9. arXiv · 机器人与计算机视觉45

    Printed and Scanned:单图变形攻击检测器在打印扫描退化下的脆弱性暴露

    研究引入经 300/600 DPI 打印重扫的 SYN-MAD22 数据集,评估八款仅基于数字数据训练的 S-MAD 模型。结果显示,这些在数字域表现接近最先进水平的检测器,其平均等错误率增加超过三倍,暴露出数字基准性能与抗打印扫描退化鲁棒性间的严重差距。

  10. arXiv · 机器人与计算机视觉65

    通过蒸馏代理实现安全关键场景的模型感知生成以增强端到端驾驶鲁棒性

    该论文分析了 NeuroNCAP 基准上 DiffusionDrive 等模型的碰撞主要由规划失败导致,并提出一种针对特定规划器的模型感知框架。该方法利用从规划头蒸馏的可微分代理在鸟瞰图层面发起攻击,自动生成安全关键场景及逃逸轨迹用于微调,无需昂贵的视频渲染器参与攻击循环。

  11. arXiv · 机器人与计算机视觉78

    基于不确定性的 LiDAR 目标检测功能适用性分析评估

    针对 ISO 21448 SOTIF 安全分析需求,本文提出一种将不确定性阈值转化为触发条件的评估方法,以判定 ML 基 LiDAR 目标检测器在不同条件下的性能目标适用性。

    推荐理由:提出将不确定性阈值转化为触发条件的评估方法,指出在 KITTI 和 nuScenes 数据集上独立样本不足且跨条件转移难以满足性能目标。

  12. arXiv · 机器人与计算机视觉72

    面向多候选单纯形架构的基于设计时识别的运行时上下文依赖安全吸引域构造

    该论文针对高性能控制策略缺乏形式化验证的问题,提出一种两阶段安全域认证框架。该方法利用收缩稳定性建立目标集,进而对闭环系统进行处理,实现了运行时构建上下文相关的安全吸引域(RoA)以及在高保真控制器候选项之间进行安全的切换以优化恢复能力。

  13. arXiv · 机器人与计算机视觉78

    PhaseBreak:一种针对未授权图生视频动画的主动时间域防护方法

    该论文提出 PhaseBreak 方法,旨在防止肖像照片被用于未授权的图生视频(I2V)运动合成。该方法通过在发布前对图像施加有界扰动,利用中间去噪器特征与清洁特征的时序重排匹配机制,在保持图像共享工作流的同时破坏下游运动生成能力。实验表明,受保护图像能诱导更大的短期运动变化和更低的时序规律性,从而阻碍基于释放图像的稳态运动定制。

    推荐理由:提出 PhaseBreak 方法,通过重排特征时序在保护肖像隐私的同时保持图像可用性。

  14. arXiv · 机器人与计算机视觉78

    A Canary in the Neural Mine:捕捉图像分类器的沉默失败

    该预印本论文指出最大 Softmax 概率(MSP)存在结构盲点,无法检测正交于其梯度方向的特征变化。作者提出 CANARY,一种无需训练的故障检测器,通过计算倒数第二层特征的 PCA 残差的 kNN 距离并进行百分位校准,与 MSP 融合以识别高置信度错误。

    推荐理由:提出无需训练的 CANARY 检测器,利用残差分布捕捉高置信度错误,在自然分布偏移下显著优于标准 MSP。

  15. arXiv · 机器人与计算机视觉49

    人脸识别算法安全配置影响人工审核对误报的检出效果

    研究利用源自四种商用算法误报的新数据集 DFICT,测量了 801 名审核员在不同生物特征阈值下的表现。结果显示人类虽能降低误报率,但在更严格的安全配置下性能下降且存在算法差异。建议生物识别系统设计需考虑人工审核的变量以最小化运营风险。

10月26日周一
  1. 盖世汽车 · 汽车资讯38

    NHTSA 提议自动驾驶车辆加装青蓝色标识灯

    美国国家公路交通安全管理局(NHTSA)公示提议,允许搭载自动驾驶系统的车辆在车头、侧面及车尾安装一到两盏离地高度不低于 15 英寸的青蓝色灯。该可选配置旨在帮助执法人员和道路使用者区分无人驾驶与人类驾驶车辆,以消除旧有法规带来的落地阻碍。目前监管机构正就新规草案征求公众意见,正式定稿尚需数月时间。

  2. arXiv · 机器人与计算机视觉70

    Probing Collision Grounding in Vision-Language Models for Safe Human-Robot Collaboration

    该研究提出 TouchSafeBench 基准,用于评估视觉语言模型(VLM)将视觉观测与机器人几何、场景布局及时间运动绑定以推断碰撞的能力。基准包含 2,940 个室内共在模拟片段,涵盖社交导航与重排任务,提供多视角 RGB-D 观测、俯视轨迹图及校准元数据。

  3. arXiv · 机器人与计算机视觉78

    Not an Accident:人形机器人安全过滤器的可利用性分析

    该研究指出人形机器人的安全过滤器仅在特定参数配置下有效,缺乏通用方法确定这些参数导致部署后可能失效。作者展示了无需额外权限即可通过正常交互利用此漏洞的攻击方式,并开发了自动化工具 SIREN 来识别脆弱目标。实验表明 SIREN 在 SPARK 数据集的所有脆弱场景中均能发现攻击,且能在真实人形机器人上成功诱导碰撞事故。

    推荐理由:论文揭示人形机器人安全过滤器存在可被正常交互利用的漏洞,并展示了自动化攻击工具 SIREN 在仿真与真实机器上的有效性。

  4. arXiv · 机器人与计算机视觉48

    STROKE:基于简单稀疏结构遮挡的黑盒对抗攻击方法

    STROKE 是一种查询高效的分数型黑盒对抗攻击,通过轻量级贪婪增删流程优化由简单定向矩形遮挡构成的扰动。在名义 1--2% 面积设置下,该方法跨多种图像分类器实现高成功率且查询次数低,相比现有补丁类攻击在部分配置中表现更优并显著缩短攻击耗时。消融研究进一步验证了结构原语的关键设计选择及其有效性。

  5. arXiv · 机器人与计算机视觉72

    基于搜索的视觉语言模型模态敏感性测试:MoST 框架

    论文介绍 MoST 框架,用于黑盒测试视觉语言模型的模态敏感性。该方法通过多目标搜索选择并组合图像与文本扰动,在限制输入变化的同时寻求预测性能下降。研究在 ImageNet 和驾驶图像上的四个对象定位模型上验证了不同模态的敏感性差异,发现联合扰动能以较小改动达到甚至超过单模态扰动的效果。

  6. arXiv · 机器人与计算机视觉72

    面向多视角 BEV 3D 感知的有效且可迁移的物理伪装研究

    针对现代自动驾驶系统广泛采用的多视角鸟瞰图(BEV)3D 感知模型的鲁棒性不足问题,本文提出 BEVCA 框架。该框架结合基于 BEV 特征的对抗损失与多视角神经渲染模块,实现了跨模型和任务的对抗伪装攻击。实验表明,该方法在数字及物理环境中均优于现有基线且具备强鲁棒性。代码已开源。

  7. arXiv · 机器人与计算机视觉72

    视觉语言模型中的深度依赖型安全几何:逐层定位与双向拒绝控制

    论文提出了一种无需重训练即可在冻结视觉语言模型中定位并操纵安全敏感表示的轻量级推理框架。研究基于 Qwen3-VL-4B 和 InternVL2.5-4B 发现,早期视觉层支持通过激活引导实现强双向拒绝控制(不安全拒绝率跨度为 6%-96%),而深层层对引导不敏感但保持表征可分离性。结果暴露了 VLM 视觉编码器中白盒层面的拒绝绕过攻击面,并推动了推理阶段安全表征的稳定性研究。

  8. arXiv · 机器人与计算机视觉82

    沉默并非确证:当量产车道保持辅助不报警时及其代价

    该研究引入 CANDID-LKA 框架,利用车载 CAN 总线数据与第三方视觉系统,对三款主流车型共 39,800 秒的实车驾驶进行了评估。结果显示,显示状态无法一致响应标线难识别的条件,不同厂商报告‘未检测到’的频率差异巨大;潜类别模型表明显示状态仅能反映 47% 的感知退化时刻(第三方系统为 80%),且在近半数低置信度片段中从未报警。

    推荐理由:该研究通过车载 CAN 总线与第三方视觉系统对比,揭示了量产车道保持辅助系统在低置信度场景下存在‘静默’失效风险,且不同厂商表现差异显著。

  9. 盖世汽车 · 汽车资讯62

    Mobileye 获 TÜV 南德首张 AEB 开发检验证书

    盖世汽车获悉,10 月 22 日 Mobileye 获得 TÜV 南德颁发的首张自动紧急制动系统开发检验证书。独立审核确认其开发流程符合 ISO 21448 道路车辆预期功能安全国际标准,涵盖风险识别、评估及降低措施,包括传感器局限等固有风险的管控。Mobileye 安全官表示该认证从第三方角度印证了开发流程的严谨性,此次评估属于其更广泛的驾驶辅助及自动驾驶技术开发体系的一部分。

10月23日周五
  1. 盖世汽车 · 汽车资讯50

    盖世汽车:AI 智能体上车体验泡沫源于工程验证滞后与产品定义错位

    J.D. Power 研究显示,56.5% 用户因可靠性顾虑主动减少使用 AI 车控,“做不准”问题占比高达 48%。北京工业大学王超指出,根源在于车规验证节奏慢于大模型迭代及产品定义偏离真实任务需求。行业需从配置竞赛转向考核功能完成率与交互成功率,以重建用户信任并推动智能座舱走向日常实用化。

  2. arXiv · 机器人与计算机视觉27

    基于可达性分析的自主水下航行器浮游生物分类器鲁棒性验证框架

    针对动态非结构化环境中噪声导致 CNN 分类器误判问题,研究提出一种基于可达性分析的新型鲁棒性验证框架。该框架结合连续时间神经 ODE 模型与 SilCam 粒子成像仪高分辨率数据,经 IEEE OES AUV Symposium 2026 接收,能自动过滤模糊数据并提供形式化稳定性保证。此举显著提升了自主采样可靠性并减少了海洋生物学家的后期人工验证工作量。