arXiv · 机器人与计算机视觉· Jihoo Jung, Youngjoon Jang, Joon Son Chung·· 11 小时前精选AI 评分82
Who Says What:音频 - 视觉大语言模型中的符号三模态绑定机制研究
Who Says What: Symbolic Trimodal Binding Mechanisms in Audio-Visual LLMs
AI 导读
当前音频 - 视觉大语言模型在处理多说话人对话视频时难以解决“谁说了什么”的问题,这要求模型具备文本、音频和视觉的三模态绑定能力。该研究揭示了利用模态特定符号变量(如时间序列和空间坐标)在抽象空间中建立跨模态链接的机制,并发现绑定失败主要源于音画连接错位。
推荐理由
针对多说话人视频中的指代消解难题,提出利用现成主动说话人检测模型进行无训练提示的方法,显著提升了跨模态绑定性能。
来源:arXiv · 机器人与计算机视觉 · arxiv.org