跳到正文
NVIDIA Technical Blog· Elizabeth Goodman·· 22 天前AI 评分12

英伟达 CUDA 13.4 在 Kubernetes 中实现内存强制的 GPU 共享

Memory-Enforced GPU Sharing in Kubernetes with NVIDIA CUDA 13.4

AI 导读

针对仅需部分显存的 AI 负载,NVIDIA CUDA 13.4 支持在 Kubernetes 环境中通过内存机制进行 GPU 资源共享。该技术允许平台团队利用现有基础设施承载更多工作负载,有效解决全设备分配导致的容量闲置问题。

来源:NVIDIA Technical Blog · developer.nvidia.com