跳到正文
arXiv · 机器人与计算机视觉· Yang Qu, Qiang Fu, Zonghao Ying, Jiayi Zhao, Yaoyuan Zhang, Jinyang Guo, Jian Yang, Aishan Liu, Yingxun Wang, Xianglong Liu·· 15 天前精选AI 评分78

VagueBench:评估具身智能体在环境语境幻觉下的鲁棒性基准

VagueBench: Benchmarking the Robustness of Embodied Agents on Ambient Context Illusions

AI 导读

针对当前具身智能体评估偏向危险指令而忽视语义充分但语境最小化指令的问题,该研究首次提出‘环境语境幻觉’现象并建立 VagueBench 基准。该基准基于 AI2-THOR 仿真环境,包含 1,303 对指令,通过人类 - 智能体协同生成框架构建以测试语境依赖性。

推荐理由

该工作提出环境语境幻觉现象并建立 VagueBench 基准,揭示具身智能体对辅助语言信号的过度依赖及潜在安全风险。

来源:arXiv · 机器人与计算机视觉 · arxiv.org