Hugging Face Daily Papers·· 27 天前AI 评分67
重新思考基于测试时回归的序列压缩
Rethinking Sequence Compression with Test-time Regression
AI 导读
该研究提出 TTR-Compressor,利用测试时回归替代传统的池化或投影进行序列压缩。输入 token 定义回归问题,系数在前向传播中以闭式解高效计算,参数通过反向传播端到端学习。
来源:Hugging Face Daily Papers · arxiv.org