跳到正文
arXiv · 机器人与计算机视觉· Yifei Zhao, Qian Lou, Mengxin Zheng·· 9 天前AI 评分68

RedPhys:面向物理世界模型与智能体的可扩展红队测试平台

RedPhys: An Extensible Red-Teaming Platform for Physical-World Models and Agents

AI 导读

RedPhys 是一个针对物理世界模型(PhyModels)和智能体(PhyAgents)的可扩展红队测试平台,旨在发现具有物理基础的函数故障。该平台集成了12种红队方法、3种模型无关防御机制以及13个涵盖七个物理领域的模型,在黑色盒威胁模型下进行评估。

来源:arXiv · 机器人与计算机视觉 · arxiv.org