arXiv · 机器人与计算机视觉· Yiming Sun, Mi Zhang·· 9 天前AI 评分67
当编码智能体拥有机械臂:跨越数字 - 物理边界的风险分析
When Coding Agents Get Arms: Safety Risks Across the Digital-Physical Boundary
AI 导读
该研究介绍了 ArmedAgent,这是首个系统性评估零样本机器人控制代码智能体风险的基准。涵盖 36 个任务在 5 种场景下的鲁棒性、恶意使用及间接注入风险,先在仿真中评估并在物理机械臂上验证。测试包括 GPT-6-Astra 等前沿模型,发现当前系统在数字资源威胁转化为物理行动方面存在显著安全风险。
来源:arXiv · 机器人与计算机视觉 · arxiv.org