跳到正文
热点事件持续更新

VisAlloc 框架发布:优化多模态大模型同策略自蒸馏

1 篇报道1 个报道来源48 分钟前更新

先了解这件事

AI 综述

针对多模态大语言模型同策略自蒸馏中视觉指导不均的问题,Haoran Xu 等人提出了 VisAlloc 框架。该方法结合样本级证据中心正裁剪与空间位移负裁剪的过滤机制,以及基于 EMA 教师评分差异的 Token 级反事实重加权策略,旨在优化视觉推理效果。 据 arXiv 论文公开内容,VisAlloc 在保持推理仅需全图学生模型的前提下,于八个基准测试中将 4B 和 9B 模型的宏观平均得分分别提升至 81.44 和 84.92。作者已公开相关代码。

AI 根据报道生成 · 21 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv · 机器人与计算机视觉
    VisAlloc:为同策略自蒸馏分配视觉监督

    针对多模态大模型同策略自蒸馏中视觉指导不均的问题,本文提出 VisAlloc 框架。该方法结合样本级证据中心正裁剪与空间位移负裁剪的过滤机制,以及基于 EMA 教师评分差异的 Token 级反事实重加权策略,在保持推理仅需全图学生模型的前提下,于八个基准测试中将 4B 和 9B 模型的宏观平均得分分别提升至 81.44 和 84.92。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。