arXiv · 机器人与计算机视觉· Gexin Huang, Haisheng Fu, Yanting Yang, Chen Zhao, Ruinan Jin, Jiaqi Liu, Xiaoxiao Li·· 23 天前AI 评分49
VLMProbe:开源视觉语言模型探测与解释库发布
VLMProbe: An Open-source Library for VLM Probing and Interpretation
AI 导读
VLMProbe 是一个集成透镜读出、注意力归因及因果干预的开源库,支持跨架构系统分析与可视化。实验对比显示表征读出结果依赖分析目标且局部归因可能与干预效应不一致,SAE 评估则揭示了重构保真度等权衡。代码已公开,为选择方法与验证模型行为假设提供可复用基础。
来源:arXiv · 机器人与计算机视觉 · arxiv.org