跳到正文
Hugging Face Daily Papers·· 2 天前AI 评分72

Mechanistic Critics for Sample-Efficient NPU Design-Space Exploration

Mechanistic Critics for Sample-Efficient NPU Design-Space Exploration

AI 导读

论文提出了 CriticNPU 框架,利用在线校准的机械主义批评模型对 NPU 架构进行设计空间探索。该方法通过显式硬件限制评估配置潜力并聚合算子级运行时数据,在六个大语言模型工作负载和十六种部署配置中,实现了 74% 的预填充和 87.5% 解码场景下的最优或并列最低延迟,同时仅使用竞争性基线一半的仿真调用次数。代码已开源,论文已被 NeurIPS 2026 接收。

来源:Hugging Face Daily Papers · arxiv.org