跳到正文
arXiv · 机器人与计算机视觉· Bingxin Xing, Yu Zhang, Jiatong Ding, Lei Lu, Ping Wang·· 2026-10-19精选AI 评分78

Sink-Sparse Hybrid Attention 用于 T2I/T2V Diffusion Transformers 的高效推理

Sink-Sparse Hybrid Attention for Efficient Inference in T2I/T2V Diffusion Transformers

AI 导读

论文提出 Sink-Sparse Hybrid Attention,这是一种无需训练的注意力替换方法,通过复用静态 sink masks 并补充轻量级 pooled-KV 分支来加速扩散 Transformer 的推理。

推荐理由

该方法提供无需微调的推理加速方案,在保持生成质量的同时实现约1.5倍端到端速度提升。

来源:arXiv · 机器人与计算机视觉 · arxiv.org