arXiv · 机器人与计算机视觉· Neha Kalibhat, Zi Wang, Prasoon Bajpai, Drew Proud, Wenjun Zeng, Been Kim, Mani Malek·· 2 天前AI 评分75
通过原子概念编辑的宪法实现模型行为的解读与控制
Interpreting and Controlling Model Behavior via Constitutions for Atomic Concept Edits
AI 导读
该研究介绍了一种黑盒可解释性框架,通过学习“宪法”来总结提示词变化对模型行为(如对齐、正确性或约束遵循)的影响。方法利用原子概念编辑(ACEs),系统性地添加、移除或替换输入提示中的可解释概念,从而建立从编辑到结果的因果映射。
来源:arXiv · 机器人与计算机视觉 · arxiv.org