arXiv · 机器人与计算机视觉· Ziwen Xu, Chenyan Wu, Hengyu Sun, Haiwen Hong, Mengru Wang, Yunzhi Yao, Longtao Huang, Hui Xue, Shumin Deng, Zhixuan Chu, Huajun Chen, Ningyu Zhang·· 2 天前AI 评分67
为何转向有效:迈向大语言模型参数动力学的统一视角
Why Steering Works: Toward a Unified View of Language Model Parameter Dynamics
AI 导读
论文提出将局部微调、LoRA 及激活干预等 LLM 控制方法视为由控制信号诱导的动态权重更新,构建了统一的偏好 - 效用分析框架。研究发现控制强度增加会提升对目标概念的倾向(偏好)但降低生成连贯性(效用),并通过激活流形视角解释了这一权衡机制。作者据此提出了新的转向方法 SPLIT,旨在改善偏好同时更好地保留效用。代码已开源。
来源:arXiv · 机器人与计算机视觉 · arxiv.org