跳到正文
Hugging Face Daily Papers·· 27 天前AI 评分67

重新思考基于测试时回归的序列压缩

Rethinking Sequence Compression with Test-time Regression

AI 导读

该研究提出 TTR-Compressor,利用测试时回归替代传统的池化或投影进行序列压缩。输入 token 定义回归问题,系数在前向传播中以闭式解高效计算,参数通过反向传播端到端学习。

来源:Hugging Face Daily Papers · arxiv.org