6 代 Waymo Driver 如何应对严酷冬季天气
6 代 Waymo Driver 通过摄像头、雷达和激光雷达的多传感器冗余及车载加热除冰功能,在冰雪条件下保障安全运营。车队利用每辆车作为移动气象站共享实时路况数据,并在俄亥俄州等地进行封闭场地测试与合成数据训练以验证能力。当天气超出安全边界时,Waymo 将主动缩小服务范围或暂停运营,直至确认道路安全。
6 代 Waymo Driver 通过摄像头、雷达和激光雷达的多传感器冗余及车载加热除冰功能,在冰雪条件下保障安全运营。车队利用每辆车作为移动气象站共享实时路况数据,并在俄亥俄州等地进行封闭场地测试与合成数据训练以验证能力。当天气超出安全边界时,Waymo 将主动缩小服务范围或暂停运营,直至确认道路安全。
Kodiak AI 宣布其长途无人驾驶运营的安全论证措施(ARM)已提升至 99%,预计将于 2026 年底前在德克萨斯州 I-45 高速公路段启动无人驾驶商业服务。
NVIDIA Sentry 是专为物理 AI 智能体设计的运行时安全软件框架,旨在解决智能体在执行任务时绕过安全控制并跨越边界的风险。该框架通过独立于智能体的监控与执行机制,防止其篡改或禁用底层工具、凭证及服务。此方案确保在利用工具和服务达成目标的过程中,系统能持续维持安全边界不被突破。
Waymo 最新同行评审研究表明,即便移除酒驾因素,清醒驾驶员夜间致命事故风险仍比日间高 3.1 至 3.9 倍。研究基于 FARS 数据库重建暴露量并评估了 50 个主要城市数据,发现仅靠消除酒驾无法解决照明不足、疲劳等系统性隐患。该成果发表于《Journal of Safety Research》及 IRCOBI 会议,证实需结合更安全的道路与车辆层面对齐安全系统方法。
Waymo 研究人员与事件准备专家联合发布论文,引入首个针对自动驾驶车队的事故管理框架。该方案适配联邦紧急事务管理局(FEMA)的国土安全演习评估计划,为开发者、运营伙伴及应急响应机构提供从规划到评估的统一演练方法。框架涵盖形成性咨询、教育桌面推演、总结性实操及确认性全规模演练四类场景,旨在通过跨组织协作提升应对自然灾害等突发事件的准备度与响应效率。
Torc 将自动驾驶安全案例建立在工程师设计防故障系统、确保正常运行及网络安全,以及组织内建立清晰流程与安全文化的三大支柱之上。该框架强调开发阶段需纳入运营约束与监控维护需求,由首席安全官统筹以确保各域对齐。
NVIDIA Open Agent Safety Platform 为持续硅内智能体监控提供参考架构,旨在应对智能体 AI 带来的风险。该平台借鉴互联网兴起时的机遇与风险并存的历史经验,聚焦于理解当前代理型人工智能的发展现状与安全挑战。
Edge Case 推出 AI 驱动的安全智能平台 Guardian,旨在为自动驾驶及复杂系统提供持续的系统级风险理解。Torc Robotics 作为其首个公开宣布的商业合作伙伴,利用该平台在长途货运自主卡车商业化进程中,实时监测自驾驶系统的整体安全画像。
DeepMind 推出 Gemini 3.8 Flash 及专为可信防御者提供的 3.8 Flash Cyber,后者在内部基准中漏洞发现成功率超 70%,CWE-Bench 补丁 pass@1 达 47.2%。两款模型均基于相同核心智能,通过长周期智能循环迭代优化,在软件工程和关键多步推理领域显著提升性能且成本更低。
Google DeepMind 联合新加坡 AI 安全研究所等伙伴,首次在加密“盒子”内对 Gemini Flash Lite 进行双盲评估,防止模型提前窥探考题。该方案通过引入密码学保障措施解决基准污染问题,确保业界能信任基准分数真实反映模型能力与安全性。
Torc 利用最新一代车辆与执法、消防及急救部门合作,在测试场采集高质交互数据以增强 AV 3.0 软件对紧急车辆的感知与响应能力。仿真环境基于实测数据生成数千种排列组合,进一步提升了模型应对复杂紧急情况的能力。此举旨在扩大数据集多样性,确保自动驾驶系统在多变现实场景中安全可靠运行并建立公众信任。
随着 AI 智能体能力增强且运行周期延长,英伟达联合 OpenShell 及生态伙伴提出将安全信任融入应用架构。英伟达安全团队解析了新兴智能体栈各层级的角色与安全职责。该观点源自 NVIDIA Technical Blog 关于构建可信智能体应用的最新技术讨论。
Torc Robotics 宣布加入 Automotive Information Sharing and Analysis Center (Auto-ISAC),以加强网联商用车辆的网络安全协作。作为戴姆勒卡车旗下子公司,Torc 将借此与车企及供应商共享网络威胁情报并制定最佳实践,确保其面向美国长途货运的自动驾驶卡车产品在商业化部署中具备安全韧性。
Google DeepMind 推出 AI Control Roadmap,通过引入系统级安全层弥补模型对齐不足,将内部智能体视为潜在威胁并基于验证行为授予权限。
NVIDIA Hyperion 平台推出 Halos OS,作为其全栈安全系统的核心组件,旨在解决 Robotaxi 规模化部署中的系统级安全挑战。
推荐理由:NVIDIA Hyperion 平台推出 Halos OS,提供符合 ISO 26262 ASIL D 的认证内核、标准化接口及 AI 护栏,旨在解决 Robotaxi 规模化部署中的系统级安全挑战。
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation 等机构宣布推出总额最高达 1000 万美元的多智能体安全研究资助计划,旨在应对大规模独立智能体交互带来的系统性风险。
推荐理由:DeepMind 联合多方发起百万美元资助计划,聚焦多智能体系统涌现行为、网络失效及跨平台身份协议等四大方向。
Kodiak 采用自研的 BreakPoint 工具结合概率风险评估(PRA)方法,量化评估其自动驾驶系统在罕见场景下的碰撞风险。该方法将不确定性纳入数学模型,通过对比人类驾驶基准数据,系统性缩小未知危险场景空间以验证安全性能。
特斯拉于 2026 年 2 月成功停止在加州营销中使用“Autopilot"一词,以回应加州 DMV 去年 12 月关于其误导消费者认为车辆具备自动驾驶能力的违规认定。此举使特斯拉避免了经销商和制造商牌照被暂停 30 天的处罚,此前该机构曾建议立即实施为期 30 天的暂停令。
Google DeepMind 宣布与英国人工智能安全研究所(AISI)签署谅解备忘录,将合作从模型测试扩展至共享专有模型数据及开展联合基础研究。双方重点聚焦监控 AI 推理过程、理解社会情感影响以及评估经济系统风险等关键领域。此次合作旨在通过外部独立专家视角,构建更稳健的 AI 安全评估方法以造福行业与社会。