跳到正文
arXiv · 机器人与计算机视觉· Simon Kohaut, Felix Divo, Benedict Flade, Devendra Singh Dhami, Julian Eggert, Kristian Kersting·· 2026-10-20AI 评分68

宪法过滤器:合规代理的贝叶斯估计

The Constitutional Filter: Bayesian Estimation of Compliant Agents

AI 导读

论文介绍了一种名为宪法过滤器(CoFi)的方法,用于在存在法律政策、物理限制和操作偏好等复杂条件下预测智能体行为。该方法将机器学习与符号推理结合,通过贝叶斯估计框架确保智能体符合可解释的神经符号模型约束。研究在真实世界海洋交通数据上评估了 CoFi 的性能,展示了其在跟踪合规代理方面的改进效果,并证明了即使假设的宪法与现实不符,系统也能自适应调整信任度以恢复基线性能。

来源:arXiv · 机器人与计算机视觉 · arxiv.org