VisAlloc 框架发布:优化多模态大模型同策略自蒸馏
热点事件持续更新
VisAlloc 框架发布:优化多模态大模型同策略自蒸馏
1 篇报道1 个报道来源48 分钟前更新
先了解这件事
AI 综述
针对多模态大语言模型同策略自蒸馏中视觉指导不均的问题,Haoran Xu 等人提出了 VisAlloc 框架。该方法结合样本级证据中心正裁剪与空间位移负裁剪的过滤机制,以及基于 EMA 教师评分差异的 Token 级反事实重加权策略,旨在优化视觉推理效果。 据 arXiv 论文公开内容,VisAlloc 在保持推理仅需全图学生模型的前提下,于八个基准测试中将 4B 和 9B 模型的宏观平均得分分别提升至 81.44 和 84.92。作者已公开相关代码。
AI 根据报道生成 · 21 分钟前更新
最新进展11月20日 13:00
VisAlloc:为同策略自蒸馏分配视觉监督报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv · 机器人与计算机视觉VisAlloc:为同策略自蒸馏分配视觉监督
针对多模态大模型同策略自蒸馏中视觉指导不均的问题,本文提出 VisAlloc 框架。该方法结合样本级证据中心正裁剪与空间位移负裁剪的过滤机制,以及基于 EMA 教师评分差异的 Token 级反事实重加权策略,在保持推理仅需全图学生模型的前提下,于八个基准测试中将 4B 和 9B 模型的宏观平均得分分别提升至 81.44 和 84.92。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。