什么是 HAMi?
HAMi (Heterogeneous AI Computing Virtualization Middleware) 以前称为 k8s-vGPU-scheduler,是一个 'all-in-one' Chart,用于管理 k8s 集群中的异构 AI 计算设备。它能够提供共享异构 AI 设备的能力,并在任务之间提供资源隔离。
HAMi 致力于提高 Kubernetes 集群中异构计算设备的使用率,并为不同类型的异构设备提供统一的复用接口。
为什么选择 HAMi
Kubernetes 原生 API 兼容
零变更升级:与 Kubernetes 的默认行为兼容。
开放中立
由互联网、金融、制造、云提供商等联合发起,目标是与 CNCF 开放治理
避免供应商锁定
与主流云提供商集成;不与专有供应商编排绑定
资源隔离
在容器中提供资源硬隔离,容器中的任务不能使用超出其配额的资源
支持多种异构计算设备
提供 GPU、MLU、NPU 等多种制造商的设备共享
统一管理
统一监控系统,可配置调度策略(binpack,spread,etc...)