跳到正文
量子位· 一水·· 23 天前精选AI 评分82

岩山科技联合港科大、CMU开源EdgeRock-4B模型

KV Cache砍掉99%,单卡吞吐飙6倍,港科CMU联手岩山科技开源新模型

AI 导读

岩山科技旗下岩芯矩阵联合港科大、CMU等高校发布并开源了EdgeRock-4B模型,该模型基于Qwen3.5-4B改造,采用记忆岩锚(RMA)机制将每条序列的KV Cache固定在72 MiB,不随上下文长度增长。

推荐理由

岩山科技联合港科大与CMU开源EdgeRock-4B,通过固定内存机制实现长推理显存不涨且吞吐提升6倍。

来源:量子位 · qbitai.com