跳到正文
arXiv · 机器人与计算机视觉· Jiayu Chen, Jinye Hu, Maoliang Li, Anqian Cen, Hailong Zou, Zihao Zheng, Xinming Wei, Guojie Luo, Jie Zhang, Xuanzhe Liu, Xiang Chen·· 2 天前AI 评分38

dit.xpu:在移动 SoC 上驯服扩散 Transformer 稀疏推理

dit.xpu : Taming DiT Sparse Inference on Mobile SoCs

AI 导读

dit.xpu 提出一种针对异构移动 SoC 的稀疏 DiT 推理框架,通过 Tile-aligned 稀疏注意力与锚点误差补偿机制优化数据流。该方案在两款骁龙手机上的五项 DiT 模型测试中,相比 Hexagon-NPU 后端实现高达 1.56 倍的端到端去噪加速,且生成质量接近稠密注意力模式。代码已开源,适用于移动端图像生成与编辑场景。

来源:arXiv · 机器人与计算机视觉 · arxiv.org