跳到正文
arXiv · 机器人与计算机视觉· Bingnan Liu, Ruini Xue·· 23 天前AI 评分72

WorldPager:单张消费级显卡上实现无卡顿的长视界世界模型分层内存管理

WorldPager: Zero-Stall Tiered Memory for Long-Horizon World Models on a Single Consumer GPU

AI 导读

论文针对单卡交互世界模型受限于显存容量与带宽的问题,提出 WorldPager 方法。该方法基于相机位姿已知的前提,将 KV 缓存存储于 GPU/DRAM/NVMe 层级而非重复计算,并通过预取机制避免等待。实验显示,在 RTX 4090 上可实现约 37.5 分钟的连续视频生成且主机内存恒定,int4 量化下未见质量损失。

来源:arXiv · 机器人与计算机视觉 · arxiv.org