什么是HAMi?
目录
HAMi:异构AI计算虚拟化中间件
异构AI计算虚拟化中间件(HAMi),前身为k8s-vGPU-scheduler,是一个专为管理k8s集群中异构AI计算设备而设计的"一体化"Helm Chart。它能够实现异构AI设备在多个任务间的共享能力。
HAMi是云原生计算基金会(CNCF)的SandBox项目,同时被收录于CNCF技术全景图-编排与调度类目及CNAI技术全景图。
为什么选择HAMi
-
设备共享
- 支持多种异构AI计算设备(如NVIDIA GPU/CUDA)
- 支持多设备容器的设备共享
-
设备内存控制
- 容器内硬性内存限制
- 支持动态设备内存分配
- 支持按MB或百分比分配内存
-
设备规格指定
- 支持指定特定类型的异构AI计算设备
- 支持通过设备UUID指定具体设备
-
开箱即用
- 对容器内任务透明无感
- 通过helm一键安装/卸载,简洁环保
-
开放中立
- 由互联网、金融、制造业、云服务商等多领域联合发起
- 以CNCF开放治理为目标
后续步骤
推荐继续了解: