跳到正文
NVIDIA Technical Blog· Luca Spindler·· 2026-10-02AI 评分12

英伟达开源 Do Inference Now Deploy:基于 C++ 与 TensorRT RTX 的本地 AI 应用加速样本集

Build Local AI Apps with C++ and NVIDIA TensorRT RTX Samples

AI 导读

英伟达发布开源项目 Do Inference Now Deploy,提供实用 C++ 样本以连接模型检查点与原生推理。该工具结合 ONNX Runtime 和 NVIDIA TensorRT RTX 执行提供者,旨在解决本地应用中模型格式便携性与跨系统加速需求。开发者可直接利用此代码库将 AI 模型部署至目标系统并实现即时推理。

来源:NVIDIA Technical Blog · developer.nvidia.com