跳转到文档内容

用 HAMi 在一块 GPU 上运行多个 AI 工作负载:架构与注意事项

2026年8月9日中国台湾 台北11:20 - 11:50TR214

GPU 很贵。Kubernetes 目前还无法很好地共享它们,DRA 仍在开发中。HAMi 为 Kubernetes 带来异构 GPU 共享。本演讲将介绍 HAMi 如何在不改动应用代码的情况下接管 CUDA 调用、为什么显存隔离至关重要,以及真实的生产用例——团队将 GPU 成本降低了 40-60%。

加入社区

参与 HAMi 开源项目,与维护者和社区成员交流。

CNCFHAMi 是 CNCF 孵化项目