arXiv · 机器人与计算机视觉· Ali Taheri, Alireza Taban, Qizhou Wang, Wanhua Li·· 2026-10-20AI 评分54
基于规则图的 LLM 机器人安全任务完成方法
Refuse the Harm, Complete the Task via Graph-of-Rules Planning for LLM-Enabled Robots
AI 导读
针对大语言模型驱动机器人面临的越狱与复合指令安全风险,论文提出 RuleGraph 多智能体规则图规划框架。该方法通过五类协同智能体将通用安全原则转化为具体规则,在规划图中继承并验证候选计划,确保拒绝有害子任务同时完成合法部分。实验显示,该框架在两个基准测试中将攻击成功率降至 0%,同时在 RoboGuard 基准上达到 98.57% 的任务完成率,在长视界复合指令上达到 84.54%。
来源:arXiv · 机器人与计算机视觉 · arxiv.org