跳到正文
量子位· 闻乐·· 2026-10-09精选AI 评分78

DeepSeek-V4系列因分块KV Cache压缩出现相位敏感性:同一任务准确率随Token站位周期性起伏

字节找到了DeepSeek时强时弱的原因

AI 导读

字节Seed团队研究发现,DeepSeek-V4系列模型在长上下文检索中表现出显著的“相位敏感性”,即同一条信息仅改变输入位置(Token站位),其检索准确率便会呈现与压缩步长一致的周期性波动。

推荐理由

字节Seed团队发现分块KV Cache压缩引入相位敏感性,导致模型检索能力随输入位置周期性波动,后训练与架构迭代可显著缓解该问题。

来源:量子位 · qbitai.com