arXiv · 机器人与计算机视觉· Mengyao Lyu, Yan Li, Huasong Zhong, Hui Chen, Jungong Han, Guiguang Ding, Zhenheng Yang·· 22 天前AI 评分65
一种简单的百万级多模态指令微调数据选择策略
An Embarrassingly Simple Data Selection Strategy for Million-Scale Multi-Modal Instruction-Tuning
AI 导读
论文提出 SSR 方法,利用交互风格代理结构多样性并分解能力特定分数,将数据选择转化为子模覆盖最大化问题。该方法在 LLaVA-1.5 和 LLaVA-OneVision 架构上验证,仅需 30% 的 260 万样本池即可达到全量数据的 99.1% 性能,且具备跨数据集与模型的迁移能力。
来源:arXiv · 机器人与计算机视觉 · arxiv.org