arXiv · 机器人与计算机视觉· Bingxin Xing, Yu Zhang, Jiatong Ding, Lei Lu, Ping Wang·· 2026-10-19精选AI 评分78
Sink-Sparse Hybrid Attention 用于 T2I/T2V Diffusion Transformers 的高效推理
Sink-Sparse Hybrid Attention for Efficient Inference in T2I/T2V Diffusion Transformers
AI 导读
论文提出 Sink-Sparse Hybrid Attention,这是一种无需训练的注意力替换方法,通过复用静态 sink masks 并补充轻量级 pooled-KV 分支来加速扩散 Transformer 的推理。
推荐理由
该方法提供无需微调的推理加速方案,在保持生成质量的同时实现约1.5倍端到端速度提升。
来源:arXiv · 机器人与计算机视觉 · arxiv.org