arXiv · 机器人与计算机视觉· Sribalaji C. Anand, George J. Pappas·· 2026-10-06精选AI 评分80
少说假话,多说大话:LLM 机器人团队的隐蔽内部攻击研究
Lie Rarely, Lie Big: Stealthy Insider Attacks on LLM Robot Teams
AI 导读
当机器人团队将规划与互信委托给 LLM 智能体时,单个被攻陷的机器人可能破坏共享结果。本研究在可物理验证但需消耗预算的多机器人测绘任务中,将攻陷者视为受限于系统检测器的隐蔽对手,推导了谎言被验证概率的下界及地图误差上界。实验表明,当诚实机器人由 LLM 智能体担任时,上述界限在实际攻击花费的预算下均成立;同时发现 LLM 重检记录的选择无偏但重检量不可预测。
推荐理由
论文从系统理论角度推导了多机器人团队中 LLM 智能体被内部攻击时的谎言概率与地图误差上界,并在 LLM 诚实机器人的实验环境下验证了这些界限。
来源:arXiv · 机器人与计算机视觉 · arxiv.org