跳到正文
arXiv · 机器人与计算机视觉· Van Chan Ngo·· 15 天前精选AI 评分82

te-comp:首个生成自包含 C 推理引擎的完整 MLIR 编译器

te-comp: A Complete MLIR Compiler Generating Self-Contained C Inference Engines for MCUs

AI 导读

te-comp 是首个基于 MLIR 的编译器,可将标准 TFLite 或 Safetensors 模型编译为无运行时依赖的 C 代码,包含推理引擎与 RTOS 集成层。

推荐理由

te-comp 是首个基于 MLIR 的编译器,可将 TFLite/Safetensors 模型编译为无依赖的 C 代码,在 MCU 上实现 GPT-Neo 等模型的独立推理。

来源:arXiv · 机器人与计算机视觉 · arxiv.org