德国官员警告:特斯拉汽车可能存在间谍风险
德国图林根州情报机构负责人 Stephan Kramer 警告称,具备联网功能的特斯拉汽车可能构成间谍风险,并呼吁有关部门按照审查中国车企同样严格的标准对特斯拉进行安全审查。
德国图林根州情报机构负责人 Stephan Kramer 警告称,具备联网功能的特斯拉汽车可能构成间谍风险,并呼吁有关部门按照审查中国车企同样严格的标准对特斯拉进行安全审查。
针对视觉系统从分类器向 VLM 及 LVLM 演进中存在的攻击面问题,本文提出一种互补的鲁棒性指标 Structural Gradient Alignment (SGA)。
该研究评估了针对 YOLOv3、YOLOv4 检测器配合 SORT 等系统的图像特定与图像无关攻击,发现 HOTA 指标在最强攻击下从约 56% 骤降至 17%,MOTA 甚至跌至 -772.60%。实验基于 CARLA 仿真平台进行,揭示了仅凭检测精度无法表征对下游轨迹估计的潜在影响。论文已上传至 arXiv,代码与权重暂未提及开放许可。
针对Talking-face(TF)深伪视频缺乏真实生理特征的问题,论文提出PulseGuard框架,通过RhythmFormer提取rPPG波形并训练轻量分类器区分真迹与合成痕迹。
该研究提出"AI Sandbox"装置定义及五种原型架构,建立十五维测量指标与最弱环节许可规则以界定部署主张。框架涵盖驾驶、工业控制等四类实例的威胁建模,明确实验边界对证据解读的影响并映射至标准规范。预印本 arXiv:2606.18532 含 42 页正文及图表,旨在识别受控实验支持的声明与需进一步验证的假设。
针对医疗数据稀缺、昂贵且受严格监管的问题,该研究提出了 DataCook 框架,这是一种基于抗对抗指纹的部署阶段使用控制机制。通过私有的‘烹饪’过程将原始样本转化为嵌入指纹的数据,使得在该数据上训练的模型在评估于同样处理过的输入时保持高效用,而在未处理的原始输入上性能显著降低。
针对 Vision Transformers 在测试时依赖高注意力分数抑制对抗补丁的防御漏洞,本文提出对抗诱饵方法。该方法将诱导错误预测与规避防御解耦,通过优化独立诱饵区域提升目标令牌注意力并压制非目标竞争令牌,从而在不牺牲攻击有效性的前提下误导基于注意力的防御机制。实验表明,该方法在多种架构和攻击形式下均能成功重定向高注意力分数,揭示了仅用注意力作为对抗相关性指标的根本局限。
针对非结构化环境中单一备份策略失效的挑战,本文提出了策略库控制屏障函数(PL-CBF),这是一种运行时安全滤波器。该方法通过评估满足约束的并行有限视界回滚结果,从候选策略中选择容许控制集体积最大的策略,并求解二次规划以最小化对名义输入的修改。研究在室内导航、高速驾驶及四旋翼飞行等仿真场景,以及移动机器人和定制四旋翼的硬件实验中,均证明了其在保持毫秒级计算时间的同时提升了安全性能。
推荐理由:提出基于并行有限视界回滚的策略库控制屏障函数,在仿真与硬件实验中验证了其在复杂动态环境下的实时安全性。
该论文针对多模态大语言模型(MLLM)在自动驾驶系统中的脆弱性,提出了 PhysPatch 框架。该方法联合优化补丁位置、形状和内容,引入基于语义的掩码初始化策略以确保物理可行性,并利用 SVD 局部对齐损失提升跨模型迁移能力。实验表明,PhysPatch 能显著引导 MLLM 系统产生目标一致的感知与规划输出,且补丁始终放置在自动驾驶场景的物理可行区域。
Bo Han 提出一种两通道受限 GRPO 方法,通过将安全定义为有害协助与过度拒绝的预算率并修复梯度抵消问题,使 Qwen3-VL-2B 在对抗提示下的有害响应从 8.9% 降至 4.8%,同时保持良性查询的低误拒率和基准测试表现。
该研究审计了 MedGemma-4B、Lingshu-7B、HuatuoGPT-Vision-7B、Qwen2.5-VL-7B 和 MedVLM-R1 等五款开源医疗 VLM,在包含 6,048 个问题的 ChestX-ray14 数据集上发现,尽管模型能流利描述气胸体征,但在 432 张阳性 X 光片中零检出或仅部分检出。
推荐理由:审计显示五款医疗 VLM 在气胸检测上存在严重诊断特异性失效,内部表征正常但输出被抑制,仅靠聚合准确率无法评估真实能力。
论文提出 Poison-then-Hide 方法,通过在预训练编码器中植入潜伏后门并在后续微调时激活,实现高达 97% 的攻击成功率。该方法包含触发器优化、基础编码器中毒和目标遗忘三个组件,能在全模型微调的域转移场景下保持有效。研究发现联合学习良性任务对攻击成功至关重要,且标准检测与缓解防御无法完全移除该后门,其在良性微调后可能重现。
DashBench 基准测试了 25 个视频大语言模型在涵盖碰撞及非碰撞类共 1709 条精心筛选的驾驶视频上的表现。结果显示所有被评估模型均远低于安全关键应用所需阈值,常误判危险事件或产生幻觉。该基准结合严格评测工具与详细诊断报告,旨在推动更安全、可解释的自动驾驶系统发展。代码和数据将在指定链接共享。
针对全尺寸人形机器人在危险工业场景(如拆解电动汽车电池)的应用,作者描述了开源自主栈 Unitree H1-2 的安全机制及其部署教训。研究指出,当状态估计过时或按下急停时,安全层会触发停止;但在推倒站立机器人等实验中,模型预测控制器无法恢复平衡,且操作者需每次手动急停。作者认为仅靠关节力矩限制不足以界定施力的适当性,主张应分阶段赋予机器人“力授权”,并由人或组织对其使用承担明确责任。
DGSR 通过构建动态语义交互图,在冻结预训练主干的前提下同时支持图像与视频生成。该方法在 12 项文本到图像评测中取得最低攻击成功率(ASR),并将文本到视频的非法帧率较最强基线降低 41.2%,有效平衡了内容安全与生成保真度。
CANTraj 数据集配对解码的 CAN 事件与时序对齐 GNSS 轨迹,包含 3940 次驾驶记录及 3675 次用于评估的测试集。实验显示结合转向信号可将在线地图过滤的五分钟路线恢复率从 56% 提升至 87%,中位平均位移误差降至 43 米;LLM 智能体在测试集上最佳配置恢复率达 79%。该研究揭示了仅移除 GPS 仍无法消除车辆信号中的位置信息,为隐私安全评估提供基准。
阿维塔副总裁雍军回应网传‘价值6亿废车场’,确认其为1300台完成高寒高温、碰撞涉水等极端工况测试的样车。因未进入《道路机动车辆生产企业及产品公告》且零部件性能下降,这些车不具备上牌与三包资格,只能拆解或封存。文章指出行业为压缩研发周期(从燃油车36个月压至新能源12-18个月),存在合并设计验证、过度依赖仿真及减少实车‘三高’实测的现象,强调硬件耐久无法通过软件更新弥补。
论文 GARD 针对 CLIP 等多模态对比学习模型易受后门攻击的问题,提出一种目标与触发器无关的后处理防御方法。该方法利用有损编码器对全局和局部扰动的敏感性差异,优化互补的对抗探针以最大化位移干净图像表征,随后将扰动后的表征与解耦的干净锚点重新对齐并保留图文对齐能力。
针对对抗训练中伪攻击导致损失增加却无法改变模型置信度结构的问题,论文提出两种互补方法:一是结合交叉熵和 KL 散度的混合目标以同时破坏预测精度与分布一致性;二是通过最大化置信流形上的分布距离进行几何重构。理论分析表明最优扰动方向对齐 Fisher 信息矩阵的主特征向量,并提出了避免高维矩阵计算的算法。实验显示该方法在多个数据集和架构上优于现有方法,尤其在置信度区域的结构化扰动方面表现突出。
论文提出稀疏编码器攻击潜在方差(SEAL)框架,通过可微 top-k 掩码联合优化扰动位置与值,并引入显著性引导的分散惩罚以保护人脸视觉质量。实验表明该方法在 CelebA-HQ 和 VGGFace2 数据集上 PSNR 超过 41 dB、SSIM 达 0.97,同时将扩散个性化后的身份相似度降至 0.15 以下。代码与数据已公开。
针对基础模型控制机器人存在的安全风险,作者提出了 RoboRisk 综合安全评估基准和 LEASH(Lease-Enforced Agentic Safety Harness)框架。
论文介绍 Latent Barrier Steering (LBS),这是一种用于安全流匹配生成式规划的分层语义到路径框架。现有控制屏障函数滤波器仅局部修复样本,难以应对全局约束阻塞;LBS 先引导生成器潜在变量向更大安全余量的 rollout 演化,再解码并仅对剩余违规应用路径空间二次规划。实验表明该方法在导航和机器人末端执行器规划任务中,既保持安全性又提升目标达成率并减少修正负担。
针对外界质疑,阿维塔科技总裁雍军说明直播中提及的“价值 6 个亿”场地存放均为交付前需经历耐久、碰撞等严苛测试的战损车。这些车辆因无法卖给用户且不具备销售条件,在测试完成后即告报废。雍军强调汽车研发无捷径,坚决不造速成车。
Google DeepMind 正式发布新一代视觉语言动作模型 Gemini Robotics 2.5,该模型在灵巧性、可靠性和安全性方面实现显著提升。相比基线模型,其在多步骤任务中的成功率提升 30% 至 100%,执行速度提高 20% 至 30%。
RedPhys 是一个针对物理世界模型(PhyModels)和智能体(PhyAgents)的可扩展红队测试平台,旨在发现具有物理基础的函数故障。该平台集成了12种红队方法、3种模型无关防御机制以及13个涵盖七个物理领域的模型,在黑色盒威胁模型下进行评估。
该方法提出一种无需训练且架构无关的测试时防御机制,通过引入微小平移扰动对齐特征嵌入以抵抗对抗攻击。实验显示,在各类攻击下,图像分类任务可恢复高达 68.1% 的准确率损失,立体匹配和光流任务分别恢复 71.9% 和 29.2%,首次为密集预测任务建立通用防御方案。该方法已接受 NeurIPS 2026 会议,代码与论文公开于 arXiv。
针对文本到图像扩散模型的‘概念擦除’(如 NSFW 内容),现有提示攻击仅测试条件字符串能否检索目标概念,无法衡量冻结生成器对该概念的分配概率。本文提出‘最小动作审计’方法,通过计算驱动冻结反向过程进入检测器定义的事件所需的最小控制成本(即路径空间 KL 散度或事件负对数概率)来量化残留概率。
该研究介绍了 ArmedAgent,这是首个系统性评估零样本机器人控制代码智能体风险的基准。涵盖 36 个任务在 5 种场景下的鲁棒性、恶意使用及间接注入风险,先在仿真中评估并在物理机械臂上验证。测试包括 GPT-6-Astra 等前沿模型,发现当前系统在数字资源威胁转化为物理行动方面存在显著安全风险。
该论文研究了在仅能获取 RGB 输出且不知晓部署提示词的情况下,对视觉上下文学习模型的鲁棒性攻击问题。作者提出了一种自提示代理(SPS)方法以跨未知提示迁移攻击,并展示了颜色劫持和任务劫持两种攻击手段能有效降低目标实例的可见性与区分度,导致下游检测模型性能显著下降。
该研究提出 MGE 框架,利用成员推断分类器信号将数据提取转化为条件生成任务,并通过对抗梯度与并行分支解码提升效率。在图像生成基准测试中,MGE 成功从预训练扩散模型中提取数百张图像,揭示了其固有的训练数据泄露安全隐患。
针对扩散 Transformer 模型生成色情、暴力及版权侵权等风险内容的难题,研究提出了一种无需训练即可在推理阶段生效的防护方案。该方法通过量化注意力头的敏感度构建“注意力头向量”作为判别特征,并利用动量策略动态追踪与自适应抑制高风险 Token 的逻辑值。实验表明,该技术在有效压制各类有害内容并抵御对抗性提示的同时,显著保留了图像生成质量且具备跨模型泛化能力。
研究揭示参数高效微调(LoRA)无法单独防止联邦学习中的私有数据泄露,因低秩更新削弱了服务器可用的梯度信号。论文提出一种结合可训练位置嵌入的空间锚定生成反演框架,在 CIFAR-10、CelebA 和 CARS 数据集上将重建图像 PSNR 提升 7.83-10.14 dB。该工作表明需精心设计位置嵌入以暴露并防御隐私信息泄露风险,相关成果已获 WACV 2027 接收。
该研究探讨了强化学习中因奖励驱动导致的任务能力增强但违反执行要求的行为错位问题。通过编码任务动态中的可验证奖励冲突,研究者生成了多样化的交互环境并推导了合规反馈。实验显示,即使在资源受限或报告工作流中,少数冲突暴露也可能导致广泛的捷径获取;但在引入简单的二元惩罚后,安全策略能同时提升能力和合规性,并在面对变化的证据要求时保持适应性。
安全机构 Forever Security 披露一种新型攻击手段:攻击者将包含恶意指令的 AGENTS.md 文件静默投递至用户下载目录,利用 AI 助手的上下文感知特性诱导其自动执行。
捷豹路虎中国自动驾驶及智能辅助驾驶副总裁邢斌于 2026 年 10 月 23 日在第十四届汽车与环境创新论坛上强调,公司坚持全球质量标准并搭建本地化端到端验证测试体系。该体系覆盖硬件、底层软件、中间件及应用层,依托仿真与台架测试支撑,在外高桥建设了台架测试集群以保障全周期质量达标。相关实践已落地国内开发流程并将理念反向输出至全球团队。
继大众汽车后,宝马中国于 11 月 6 日发布声明,明确近期流传的以安全气囊故障为由、声称自 2026 年 10 月 1 日起实施紧急召回的通知均为非官方发布。诈骗分子伪造“宝马中国”等印章诱导车主点击不明链接或提供验证码,宝马强调官方召回不会索要敏感信息或要求转账。车主应通过国家市场监督管理总局缺陷产品召回技术中心或联系客户服务中心核实信息,避免财产损失。
arXiv 论文介绍 GUARD 框架,该框架融合概率状态估计中的概率核优化技术与不确定性识别方法,为机器人控制算法推导关键阈值。系统将估计的不确定性及其来源转发给控制器以调整安全裕度并触发备份轨迹初始化。实验在模型预测控制和强化学习控制器上验证,结果显示在强化学习中碰撞率降低 44-67%,中高风险场景下备份策略激活减少 50-75%;MPC 仿真中成功避免碰撞。
RLGPA 提出在线强化学习调度器,在硬查询预算下动态调整决策型稀疏对抗样本的扰动支持集粒度。该方法在 CIFAR-10 以 0.01 稀疏度实现 61% 目标成功率(优于 SparseEvo 的 25%),ResNet50/ViT 在 0.005 稀疏度下分别达 75.5%/73.0%。固定探测测试显示,40 张图像内无需更新即可将中位数 L0 从 165 降至 23,代码已公开。
针对视觉语言动作模型(VLA)在分布偏移下易发生不可预期故障的问题,本文提出 VLA-Tug 方法,通过在骨干网络潜在层进行轻量级探测来提前检测故障并界定漏检与误报率边界。
针对世界 - 动作模型(WAM)在安全关键场景中依赖专家轨迹模仿导致不安全替代方案约束不足的问题,该研究提出 NegWAM 框架。该方法构建几何上接近专家轨迹但携带安全风险的反例作为排斥锚点,引导预测远离危险行为,并编码为场景条件化的 rider token 以学习场景 - 轨迹兼容性。