arXiv · 机器人与计算机视觉· Zhimin Hu, Chen Jiang, Hanbo Xie, N. Apurva Ratan Murty, Sashank Varma·· 8 天前AI 评分53
机械可解释性需要推理逻辑:从内部观测到机制解释的递归框架
Mechanistic Interpretability Needs a Logic of Inference
AI 导读
该论文提出机械可解释性(MI)需建立严谨的推理逻辑以支持科学发现。作者通过对比神经科学与 MI 进展,识别出从复杂神经网络中推断机制时的瓶颈,并提出了五项原则构成的递归逻辑框架。该框架旨在将局部可解释性结果转化为模型内部的累积机制知识,并使这些机制足够精确以生成关于模型外部领域的可测试假设。材料强调仅凭 MI 证据不足以确立模型机制对世界的揭示,需要额外证据支持。
来源:arXiv · 机器人与计算机视觉 · arxiv.org