跳到正文
arXiv · 机器人与计算机视觉· Jianghao Wang, Ke Meng, Jian Li, Chi Cheng, Longyu Qi, Liyin Liang, Yifeng Qian, Chunbo Lai, Yutian Lin, Zeyu Wang·· 28 天前AI 评分65

基于压缩上下文的推理学习:OmniLLMs 的无真值自适应方法 CAFD

Learning to Reason with Compressed Context: Ground-Truth-Free Adaptation of OmniLLMs via Self-Distillation

AI 导读

针对多模态大模型部署成本高且激进压缩导致精度下降的问题,本文提出 CAFD(Compressed-Context Adaptation via Full-Context Distillation)框架。

来源:arXiv · 机器人与计算机视觉 · arxiv.org