MIT CSAIL 发布 LARS 方法降低低内存设备微调大模型显存
热点事件持续更新
MIT CSAIL 发布 LARS 方法降低低内存设备微调大模型显存
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
2026 年 11 月,MIT CSAIL 与哈佛大学联合提出 LARS(低内存激活秩子空间)方法,旨在解决在智能手机等计算受限设备上直接微调大模型的显存瓶颈。该方法通过压缩训练过程中的中间激活存储,将 GPU 内存占用降低超 23%,CPU 内存占用降低约 47%。 相关成果已在亚太计算语言学协会(AACL)会议上以论文形式发布。研究指出,传统的参数高效微调(PEFT)虽仅更新部分参数,但并未如预期般显著减少显存使用。
AI 根据报道生成 · 23 分钟前更新
最新进展11月19日 20:00
MIT CSAIL 发布低内存激活秩子空间方法 LARS报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- MIT CSAIL News精选MIT CSAIL 发布低内存激活秩子空间方法 LARS
MIT CSAIL 与哈佛大学联合提出 LARS 方法,旨在解决在智能手机等计算受限设备上直接微调大模型的显存瓶颈问题。该方法通过压缩模型训练过程中的中间激活存储(intermediate activation storage),将 GPU 上的内存占用降低超 23%,CPU 上降低约 47%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。