arXiv · 机器人与计算机视觉· Lingyun Song, Ziyao Chen, Kang Pan, Xiaolin Han, Yifei Zhang, Xiaoqi Wang, Yudai Pan, Xuequn Shang·· 10 天前AI 评分58
ROSE:面向多模态大模型终身知识编辑的风险感知正交子空间导航框架
ROSE: Risk-Aware Orthogonal Subspace Navigation for Lifelong Knowledge Editing in Multimodal Large Language Models
AI 导读
针对多模态大语言模型在连续事实更新中面临的局部侵蚀和灾难性遗忘问题,本文提出了 ROSE 框架。该方法通过限制参数更新至先前编辑子空间的正交补集来缓解遗忘,并引入动态计算的风险掩码以保护维持模型稳定性的关键事实参数子空间。
来源:arXiv · 机器人与计算机视觉 · arxiv.org