arXiv · 机器人与计算机视觉· Johannes Mootz, Mani Amani, Reza Akhavian·· 14 小时前AI 评分36
Measuring the Conservatism of Latent Safety Filters for World Models
Measuring the Conservatism of Latent Safety Filters for World Models
AI 导读
该研究提出一种方法,通过计算“重叠率”来量化世界模型潜在安全过滤器的保守程度。实验在视觉导航任务中对比了三种架构,发现独立编码器设计在相同校准水平下拒绝的安全动作最少且达成目标最多。该方法适用于任何潜在变量,为平衡安全性与行动自由度提供了理论依据。
来源:arXiv · 机器人与计算机视觉 · arxiv.org